周鴻祎評價(jià)ChatGPT 大模型的發(fā)展剛剛開始，不會(huì)被OpenAI一統(tǒng)江山(5)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-11-10 11:33:44 南方都市報(bào)

周鴻祎：

未來大模型會(huì)無處不在。每個(gè)行業(yè)、每個(gè)人都不可避免地會(huì)用到大模型。如果別人都用而你不會(huì)，這將是一種降維打擊。我們希望通過大模型，將安全專家的智慧融入其中，使之能夠更好地感知網(wǎng)絡(luò)威脅和攻擊的發(fā)生，并快速響應(yīng)。

另一方面，要想解決大模型本身帶來的安全問題，我們必須會(huì)研發(fā)大模型、會(huì)訓(xùn)練大模型，像黑盒子一樣把它打開，了解其方方面面，才能知道這是怎么回事、如何解決問題。所以360要跨界，既要懂安全也要懂大模型。

從大模型定位和應(yīng)用角度來看，奇元大模型具備充足的靈活性和可擴(kuò)展性，商業(yè)化和產(chǎn)品定位以B端用戶為主，后期將會(huì)聚焦更多的商業(yè)化應(yīng)用和垂直領(lǐng)域，幫助用戶提升工作效率。

今年9月，360智腦大模型已獲得備案開放，并全面接入360搜索、360瀏覽器等互聯(lián)網(wǎng)全端應(yīng)用，上線首周即獲300萬用戶超5000萬余次互動(dòng)。

南都：大模型落地面臨怎樣的安全風(fēng)險(xiǎn)？

周鴻祎：大模型是一把雙刃劍，在帶來生產(chǎn)力提升的同時(shí)，也帶來了前所未有的安全挑戰(zhàn)。大模型帶來的安全挑戰(zhàn)可以分為短期、中期、長期。三個(gè)階段的風(fēng)險(xiǎn)不斷疊加，長期存在，是當(dāng)今世界級的難題。

具體而言，短期主要是技術(shù)自身的風(fēng)險(xiǎn)，括技術(shù)攻擊、網(wǎng)絡(luò)攻擊、漏洞攻擊、數(shù)據(jù)攻擊等。特別是，如果給大模型輸入不好或受污染的訓(xùn)練數(shù)據(jù)，可能會(huì)導(dǎo)致它的結(jié)果出錯(cuò)。

中期挑戰(zhàn)來自對大模型的惡意應(yīng)用，主要表現(xiàn)為內(nèi)容安全。大模型能成為我們每個(gè)人很好的幫手，也能成為壞人作惡的工具，比如幫助一個(gè)水平一般的黑客寫出更好的攻擊代碼、詐騙郵件等。還有一個(gè)大模型幻覺問題——大模型經(jīng)常會(huì)胡說八道，信口開河，但在某些關(guān)鍵領(lǐng)域的容錯(cuò)率很低。如何讓大模型的內(nèi)容更加可控、可信，同時(shí)不淪為作惡的工具，這已經(jīng)涉及超越技術(shù)范疇的問題了。

首頁上一頁...2 3 456 全文共 6 頁下一頁

關(guān)閉

周鴻祎評價(jià)ChatGPT 大模型的發(fā)展剛剛開始，不會(huì)被OpenAI一統(tǒng)江山(5)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

周鴻祎評價(jià)ChatGPT 大模型的發(fā)展剛剛開始，不會(huì)被OpenAI一統(tǒng)江山(5)