全國政協(xié)委員、360集團創(chuàng)始人周鴻祎在兩會期間提出了關于大模型安全和AI幻覺的建議。近期,中國人工智能領域取得了里程碑式的突破,國產大模型DeepSeek憑借技術革新和性能優(yōu)勢躋身全球第一梯隊。然而,大模型普遍存在的“幻覺”問題也引起了廣泛關注。
周鴻祎認為,以DeepSeek為代表的大模型不僅促進了技術自主創(chuàng)新,還帶動了上下游產業(yè)協(xié)同發(fā)展,并加速進入各行各業(yè),成為推動科技進步、經濟增長和國家強盛的關鍵力量。但他指出,包括DeepSeek在內的大模型偶爾會生成看似不合理或與事實不符的內容。
“AI幻覺”是大模型固有的特點,不可消除。它決定了大模型的創(chuàng)造力和想象力,對于實現(xiàn)通用人工智能至關重要。能力強的模型通?!盎糜X”更多,在科研領域,這種特性可以幫助想象新藥分子結構和蛋白質結構等,為新研究提供方向。而在醫(yī)療、法律、金融等對準確性要求高的領域,“幻覺”可能帶來錯誤,但可以通過技術手段如RAG(檢索增強生成)技術進行矯正。
回顧過去30年,我國法律法規(guī)采納了“避風港原則”,這使得企業(yè)敢于投入創(chuàng)新,帶來了互聯(lián)網行業(yè)的繁榮,并為如今的人工智能發(fā)展提供了技術和人才支持。周鴻祎建議借鑒這一成功經驗,對大模型及相關產品和服務實施柔性監(jiān)管,適度包容大模型的“幻覺”,避免直接關停下架,給予企業(yè)自我糾正的機會,從而促進創(chuàng)新和競爭。
近日,美國多名官員對DeepSeek的影響表示擔憂,稱其為“偷竊”,并正在對其展開國家安全調查
2025-01-31 11:49:55周鴻祎