劉慶峰談“AI幻覺(jué)”帶來(lái)的數(shù)據(jù)污染大模型胡編亂造引擔(dān)憂(yōu)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-07 06:36:37 金融界

AI幻覺(jué)是指大模型在生成內(nèi)容時(shí)容易胡編亂造，有時(shí)甚至足以以假亂真，或者出現(xiàn)“AI運(yùn)算偏差”，產(chǎn)生與現(xiàn)實(shí)不符的內(nèi)容。

科技博主闌夕的一篇文章《DeepSeek的胡編亂造，正在淹沒(méi)中文互聯(lián)網(wǎng)》引起了廣泛關(guān)注。文章指出，DeepSeek-R1生成的一篇關(guān)于國(guó)產(chǎn)動(dòng)畫(huà)電影崛起的知乎回答中充滿(mǎn)了事實(shí)錯(cuò)誤。例如，提到哪吒電影里的敖丙變身鏡頭在法國(guó)昂西動(dòng)畫(huà)節(jié)上轟動(dòng)業(yè)界，實(shí)際上參展的是追光動(dòng)畫(huà)出品的“哪吒重生”，且宣傳片內(nèi)容是一個(gè)現(xiàn)代都市里的賽車(chē)動(dòng)作演示，并沒(méi)有出現(xiàn)哪吒和敖丙變身的鏡頭。此外，關(guān)于“哪吒”的制片方給員工分成都房子、攻克水下流體特效等描述也是DeepSeek-R1虛構(gòu)的。

歷史博主知北游曾被人用虛構(gòu)的歷史材料布局七天，幸虧博主反詐意識(shí)強(qiáng)且有人脈證偽，才避免深陷其中。破綻在于AI搞錯(cuò)了兩個(gè)歷史人物的死亡順序。由于文史圈文獻(xiàn)數(shù)字化程度低、考據(jù)成本高，易成為AI污染重災(zāi)區(qū)。

文章還提到，DeepSeek-R1采用“極繁主義”風(fēng)格，堆砌專(zhuān)業(yè)術(shù)語(yǔ)、生造概念、濫用修辭，初期容易被識(shí)別，但經(jīng)過(guò)提示詞優(yōu)化后迷惑性增強(qiáng)。推理模型存在“諂媚性”，為滿(mǎn)足用戶(hù)需求主動(dòng)編造論據(jù)，而不是質(zhì)疑指令的合理性。

DeepSeek-R1的幻覺(jué)率高達(dá)14.3%（根據(jù)Vectara榜單），因“創(chuàng)造力”與“事實(shí)性”的失衡，在需要嚴(yán)謹(jǐn)性的場(chǎng)景中風(fēng)險(xiǎn)顯著。時(shí)政、歷史、娛樂(lè)等領(lǐng)域成為重災(zāi)區(qū)，自媒體利用AI低成本炮制真假混雜的內(nèi)容，加劇了信息污染。

(責(zé)任編輯：于浩淙 zx0176)

關(guān)閉

劉慶峰談“AI幻覺(jué)”帶來(lái)的數(shù)據(jù)污染 大模型胡編亂造引擔(dān)憂(yōu)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

劉慶峰談“AI幻覺(jué)”帶來(lái)的數(shù)據(jù)污染大模型胡編亂造引擔(dān)憂(yōu)