全國政協(xié)委員、360集團創(chuàng)始人周鴻祎在兩會期間提出了關(guān)于大模型安全和AI幻覺的建議。近期,中國人工智能領(lǐng)域取得了里程碑式的突破,國產(chǎn)大模型DeepSeek憑借技術(shù)革新和性能優(yōu)勢躋身全球第一梯隊。然而,大模型普遍存在的“幻覺”問題也引起了廣泛關(guān)注。
周鴻祎認(rèn)為,以DeepSeek為代表的大模型不僅促進了技術(shù)自主創(chuàng)新,還帶動了上下游產(chǎn)業(yè)協(xié)同發(fā)展,并加速進入各行各業(yè),成為推動科技進步、經(jīng)濟增長和國家強盛的關(guān)鍵力量。但他指出,包括DeepSeek在內(nèi)的大模型偶爾會生成看似不合理或與事實不符的內(nèi)容。
“AI幻覺”是大模型固有的特點,不可消除。它決定了大模型的創(chuàng)造力和想象力,對于實現(xiàn)通用人工智能至關(guān)重要。能力強的模型通?!盎糜X”更多,在科研領(lǐng)域,這種特性可以幫助想象新藥分子結(jié)構(gòu)和蛋白質(zhì)結(jié)構(gòu)等,為新研究提供方向。而在醫(yī)療、法律、金融等對準(zhǔn)確性要求高的領(lǐng)域,“幻覺”可能帶來錯誤,但可以通過技術(shù)手段如RAG(檢索增強生成)技術(shù)進行矯正。
回顧過去30年,我國法律法規(guī)采納了“避風(fēng)港原則”,這使得企業(yè)敢于投入創(chuàng)新,帶來了互聯(lián)網(wǎng)行業(yè)的繁榮,并為如今的人工智能發(fā)展提供了技術(shù)和人才支持。周鴻祎建議借鑒這一成功經(jīng)驗,對大模型及相關(guān)產(chǎn)品和服務(wù)實施柔性監(jiān)管,適度包容大模型的“幻覺”,避免直接關(guān)停下架,給予企業(yè)自我糾正的機會,從而促進創(chuàng)新和競爭。
近日,美國多名官員對DeepSeek的影響表示擔(dān)憂,稱其為“偷竊”,并正在對其展開國家安全調(diào)查
2025-01-31 11:49:55周鴻祎