上個(gè)月,全國(guó)首例AI幻覺侵權(quán)糾紛案宣判,標(biāo)志著AI幻覺問題已從技術(shù)層面升級(jí)為法律和社會(huì)問題。隨著生活和工作對(duì)大模型的依賴日益增加,AI幻覺帶來(lái)的風(fēng)險(xiǎn)也影響著越來(lái)越多的人。

那么,什么是AI幻覺?為什么AI會(huì)犯錯(cuò)?我們又該如何避免被AI“欺騙”?

AI幻覺是模型機(jī)制必然帶來(lái)的系統(tǒng)性風(fēng)險(xiǎn)。AI通過學(xué)習(xí)海量文本中的詞語(yǔ)和句子之間的統(tǒng)計(jì)關(guān)聯(lián),并根據(jù)上下文預(yù)測(cè)下一個(gè)最有可能出現(xiàn)的詞。例如,AI認(rèn)識(shí)“蘋果”只是因?yàn)榻y(tǒng)計(jì)發(fā)現(xiàn)“蘋果”常與“紅”、“甜”、“脆”等詞語(yǔ)共現(xiàn),從而流暢地說(shuō)出“紅蘋果口感甜脆”。實(shí)際上,AI并不真正理解這些詞語(yǔ)的真實(shí)含義,只是基于概率進(jìn)行預(yù)測(cè)。

當(dāng)遇到冷門、專業(yè)或細(xì)節(jié)豐富的問題時(shí),如果訓(xùn)練數(shù)據(jù)中缺乏足夠的案例,AI就難以計(jì)算出可靠的概率,容易編造內(nèi)容,這便是幻覺的根源。
解決AI幻覺的一個(gè)主流方法是檢索增強(qiáng)生成,即在回答問題前先檢索權(quán)威資料,類似于將“閉卷考試”變?yōu)椤伴_卷考試”,從而大幅降低編造謊言的概率。
目前,一種前沿的技術(shù)是多智能體辯論框架,由清華大學(xué)等單位提出。該方法讓多個(gè)AI共同討論一個(gè)問題,通過相互質(zhì)疑和交叉驗(yàn)證,篩選出最可靠的結(jié)論。
對(duì)于普通用戶來(lái)說(shuō),需要注意兩點(diǎn):一是提問時(shí)要具體明確,給AI設(shè)定范圍和限制,減少其自由發(fā)揮的空間;二是關(guān)鍵信息必須核對(duì),可以使用多個(gè)模型進(jìn)行交叉驗(yàn)證。
盡管AI可能永遠(yuǎn)無(wú)法完全消除幻覺,但這種“不完美”提醒我們,真正的智能在于知錯(cuò)能改、尊重事實(shí)。
今年夏天,馬斯克計(jì)劃將一家大模型公司與一家火箭制造公司合并上市。與此同時(shí),OpenAI 的薩姆·奧爾特曼卻在考慮造手機(jī),盡管這可能不是當(dāng)前的最佳選擇
2026-05-18 15:16:53OpenAI為何造手機(jī)