全國政協(xié)委員、360集團創(chuàng)始人周鴻祎在兩會期間提出了關于大模型安全和AI幻覺的建議。近期,中國人工智能領域迎來重大突破,國產大模型DeepSeek憑借其技術革新和性能優(yōu)勢躋身全球前列。周鴻祎認為,以DeepSeek為代表的大模型不僅促進了技術自主創(chuàng)新,還帶動了上下游產業(yè)協(xié)同發(fā)展,加速了大模型在各行各業(yè)的應用,成為推動科技進步、經濟增長和國家強盛的關鍵力量。
然而,包括DeepSeek在內的大模型都存在“幻覺”問題,即偶爾會生成看似不合理、與事實不符的情況。周鴻祎指出,“AI幻覺”是一把雙刃劍,既是大模型的特點,也是其創(chuàng)造力和想象力的來源。如果大模型沒有“幻覺”,就失去了想象力和創(chuàng)造力。能力強的模型通?!盎糜X”更多,在科研領域,這種“幻覺”能夠幫助想象新藥分子結構、蛋白質結構等,為新研究指引方向。而在醫(yī)療、法律、金融等領域,雖然“幻覺”可能導致錯誤,但可以通過技術手段如RAG(檢索增強生成)技術進行矯正。
回顧過去30年,我國法律法規(guī)吸納了“避風港原則”,鼓勵企業(yè)創(chuàng)新,帶來了互聯(lián)網行業(yè)的繁榮,并為如今的人工智能發(fā)展提供了技術和人才支持。周鴻祎建議,借鑒這一成功經驗,對大模型及相關產品和服務實施柔性監(jiān)管,適度包容大模型的“幻覺”,避免直接關停下架,給予企業(yè)自我糾正的機會,促進企業(yè)大膽創(chuàng)新和競爭,爭取讓更多企業(yè)取得類似DeepSeek的成功。