周鴻祎評價ChatGPT 大模型的發(fā)展剛剛開始，不會被OpenAI一統(tǒng)江山(5)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2023-11-10 11:33:44 南方都市報

周鴻祎：

未來大模型會無處不在。每個行業(yè)、每個人都不可避免地會用到大模型。如果別人都用而你不會，這將是一種降維打擊。我們希望通過大模型，將安全專家的智慧融入其中，使之能夠更好地感知網(wǎng)絡威脅和攻擊的發(fā)生，并快速響應。

另一方面，要想解決大模型本身帶來的安全問題，我們必須會研發(fā)大模型、會訓練大模型，像黑盒子一樣把它打開，了解其方方面面，才能知道這是怎么回事、如何解決問題。所以360要跨界，既要懂安全也要懂大模型。

從大模型定位和應用角度來看，奇元大模型具備充足的靈活性和可擴展性，商業(yè)化和產(chǎn)品定位以B端用戶為主，后期將會聚焦更多的商業(yè)化應用和垂直領域，幫助用戶提升工作效率。

今年9月，360智腦大模型已獲得備案開放，并全面接入360搜索、360瀏覽器等互聯(lián)網(wǎng)全端應用，上線首周即獲300萬用戶超5000萬余次互動。

南都：大模型落地面臨怎樣的安全風險？

周鴻祎：大模型是一把雙刃劍，在帶來生產(chǎn)力提升的同時，也帶來了前所未有的安全挑戰(zhàn)。大模型帶來的安全挑戰(zhàn)可以分為短期、中期、長期。三個階段的風險不斷疊加，長期存在，是當今世界級的難題。

具體而言，短期主要是技術自身的風險，括技術攻擊、網(wǎng)絡攻擊、漏洞攻擊、數(shù)據(jù)攻擊等。特別是，如果給大模型輸入不好或受污染的訓練數(shù)據(jù)，可能會導致它的結果出錯。

中期挑戰(zhàn)來自對大模型的惡意應用，主要表現(xiàn)為內容安全。大模型能成為我們每個人很好的幫手，也能成為壞人作惡的工具，比如幫助一個水平一般的黑客寫出更好的攻擊代碼、詐騙郵件等。還有一個大模型幻覺問題——大模型經(jīng)常會胡說八道，信口開河，但在某些關鍵領域的容錯率很低。如何讓大模型的內容更加可控、可信，同時不淪為作惡的工具，這已經(jīng)涉及超越技術范疇的問題了。

首頁上一頁...2 3 456 全文共 6 頁下一頁

關閉

周鴻祎評價ChatGPT 大模型的發(fā)展剛剛開始，不會被OpenAI一統(tǒng)江山(5)

相關新聞

今日熱點

頻道熱點

周鴻祎評價ChatGPT 大模型的發(fā)展剛剛開始，不會被OpenAI一統(tǒng)江山(5)