全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎在兩會(huì)期間提出了關(guān)于大模型安全和AI幻覺的建議。近期,中國人工智能領(lǐng)域迎來重大突破,國產(chǎn)大模型DeepSeek憑借其技術(shù)革新和性能優(yōu)勢躋身全球前列。周鴻祎認(rèn)為,以DeepSeek為代表的大模型不僅促進(jìn)了技術(shù)自主創(chuàng)新,還帶動(dòng)了上下游產(chǎn)業(yè)協(xié)同發(fā)展,加速了大模型在各行各業(yè)的應(yīng)用,成為推動(dòng)科技進(jìn)步、經(jīng)濟(jì)增長和國家強(qiáng)盛的關(guān)鍵力量。
然而,包括DeepSeek在內(nèi)的大模型都存在“幻覺”問題,即偶爾會(huì)生成看似不合理、與事實(shí)不符的情況。周鴻祎指出,“AI幻覺”是一把雙刃劍,既是大模型的特點(diǎn),也是其創(chuàng)造力和想象力的來源。如果大模型沒有“幻覺”,就失去了想象力和創(chuàng)造力。能力強(qiáng)的模型通?!盎糜X”更多,在科研領(lǐng)域,這種“幻覺”能夠幫助想象新藥分子結(jié)構(gòu)、蛋白質(zhì)結(jié)構(gòu)等,為新研究指引方向。而在醫(yī)療、法律、金融等領(lǐng)域,雖然“幻覺”可能導(dǎo)致錯(cuò)誤,但可以通過技術(shù)手段如RAG(檢索增強(qiáng)生成)技術(shù)進(jìn)行矯正。
回顧過去30年,我國法律法規(guī)吸納了“避風(fēng)港原則”,鼓勵(lì)企業(yè)創(chuàng)新,帶來了互聯(lián)網(wǎng)行業(yè)的繁榮,并為如今的人工智能發(fā)展提供了技術(shù)和人才支持。周鴻祎建議,借鑒這一成功經(jīng)驗(yàn),對(duì)大模型及相關(guān)產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管,適度包容大模型的“幻覺”,避免直接關(guān)停下架,給予企業(yè)自我糾正的機(jī)會(huì),促進(jìn)企業(yè)大膽創(chuàng)新和競爭,爭取讓更多企業(yè)取得類似DeepSeek的成功。