為何AI總會(huì)一本正經(jīng)地胡說(shuō)八道 AI幻覺的真相與對(duì)策

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-05-22 08:51:28 央視新聞

上個(gè)月，全國(guó)首例AI幻覺侵權(quán)糾紛案宣判，標(biāo)志著AI幻覺問題已從技術(shù)層面升級(jí)為法律和社會(huì)問題。隨著生活和工作對(duì)大模型的依賴日益增加，AI幻覺帶來(lái)的風(fēng)險(xiǎn)也影響著越來(lái)越多的人。

為何AI總會(huì)一本正經(jīng)地胡說(shuō)八道

那么，什么是AI幻覺？為什么AI會(huì)犯錯(cuò)？我們又該如何避免被AI“欺騙”？

為何AI總會(huì)一本正經(jīng)地胡說(shuō)八道 AI幻覺的真相與對(duì)策

AI幻覺是模型機(jī)制必然帶來(lái)的系統(tǒng)性風(fēng)險(xiǎn)。AI通過學(xué)習(xí)海量文本中的詞語(yǔ)和句子之間的統(tǒng)計(jì)關(guān)聯(lián)，并根據(jù)上下文預(yù)測(cè)下一個(gè)最有可能出現(xiàn)的詞。例如，AI認(rèn)識(shí)“蘋果”只是因?yàn)榻y(tǒng)計(jì)發(fā)現(xiàn)“蘋果”常與“紅”、“甜”、“脆”等詞語(yǔ)共現(xiàn)，從而流暢地說(shuō)出“紅蘋果口感甜脆”。實(shí)際上，AI并不真正理解這些詞語(yǔ)的真實(shí)含義，只是基于概率進(jìn)行預(yù)測(cè)。

為何AI總會(huì)一本正經(jīng)地胡說(shuō)八道 AI幻覺的真相與對(duì)策

當(dāng)遇到冷門、專業(yè)或細(xì)節(jié)豐富的問題時(shí)，如果訓(xùn)練數(shù)據(jù)中缺乏足夠的案例，AI就難以計(jì)算出可靠的概率，容易編造內(nèi)容，這便是幻覺的根源。

解決AI幻覺的一個(gè)主流方法是檢索增強(qiáng)生成，即在回答問題前先檢索權(quán)威資料，類似于將“閉卷考試”變?yōu)椤伴_卷考試”，從而大幅降低編造謊言的概率。

目前，一種前沿的技術(shù)是多智能體辯論框架，由清華大學(xué)等單位提出。該方法讓多個(gè)AI共同討論一個(gè)問題，通過相互質(zhì)疑和交叉驗(yàn)證，篩選出最可靠的結(jié)論。

對(duì)于普通用戶來(lái)說(shuō)，需要注意兩點(diǎn)：一是提問時(shí)要具體明確，給AI設(shè)定范圍和限制，減少其自由發(fā)揮的空間；二是關(guān)鍵信息必須核對(duì)，可以使用多個(gè)模型進(jìn)行交叉驗(yàn)證。

盡管AI可能永遠(yuǎn)無(wú)法完全消除幻覺，但這種“不完美”提醒我們，真正的智能在于知錯(cuò)能改、尊重事實(shí)。

(責(zé)任編輯：zx0176)

關(guān)閉

為何AI總會(huì)一本正經(jīng)地胡說(shuō)八道 AI幻覺的真相與對(duì)策

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)