媒體：別被你的AI忽悠了警惕AI幻覺陷阱

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-04-13 13:35:13 中國經(jīng)濟網(wǎng)

我國AI大模型應(yīng)用正在快速增長。QuestMobile最新數(shù)據(jù)顯示，DeepSeek上線次月（2025年2月），活躍用戶規(guī)模突破1.8億。然而，隨著AI應(yīng)用的普及，一些問題也逐漸浮現(xiàn)。比如，有用戶發(fā)現(xiàn)AI會編造假論文，期刊名稱、論文標(biāo)題、作者、網(wǎng)址等信息一應(yīng)俱全但全是虛構(gòu)；還有一條“80后死亡率突破5.2%”的假新聞廣為流傳，據(jù)分析最初的信源可能來自AI對話。

媒體：別被你的AI忽悠了

這些問題實際上源自AI大模型的一個老毛病——AI幻覺。專家認(rèn)為這是大模型的“基因病”。因為AI訓(xùn)練依賴海量數(shù)據(jù)，但這些數(shù)據(jù)的真實性無法保證。在訓(xùn)練過程中，AI將大量數(shù)據(jù)壓縮抽象，輸入的是內(nèi)容間關(guān)系的數(shù)學(xué)表征而非內(nèi)容本身。與人類對話時，AI基于統(tǒng)計概率生成文本，追求流暢性而非真實性，容易產(chǎn)生看似合理實則虛假的內(nèi)容。

雖然AI幻覺帶來了困擾，但也賦予了AI獨特的“超能力”，不必完全根除。AI自主生成內(nèi)容是大語言模型的重要特點，這種創(chuàng)造力對實現(xiàn)通用人工智能至關(guān)重要，并能在科研、文藝等領(lǐng)域發(fā)揮作用。例如，在游戲開發(fā)、動漫設(shè)計、小說創(chuàng)作中，AI幻覺可以提供靈感，突破思維定式。科學(xué)研究中，AI的非常規(guī)思路也有助于推動新范式的形成。

盡管AI幻覺不可根除，但可以通過技術(shù)手段和管理機制加以控制。技術(shù)上，檢索增強生成、多模型交叉驗證、動態(tài)知識更新機制等已被證明有效。未來還需提升訓(xùn)練數(shù)據(jù)的質(zhì)量和清洗標(biāo)準(zhǔn)，嚴(yán)格檢測數(shù)據(jù)來源和真實性，減少噪聲干擾；引入強化學(xué)習(xí)與人類反饋機制，提高AI邏輯推理能力；增強AI大模型檢測能力，用AI監(jiān)管AI。

用戶層面，建議不要直接采信單一AI輸出的答案，而是通過多個AI模型生成答案再交叉驗證，關(guān)鍵任務(wù)輸出需進行人工交叉驗證，結(jié)合文獻數(shù)據(jù)庫、行業(yè)知識圖譜等專業(yè)工具作出判斷。監(jiān)管方面，“標(biāo)注AI生成內(nèi)容”已成為我國監(jiān)管部門推動的方向，旨在提高AI生成內(nèi)容的可追溯性和可解釋性。未來還需加快人工智能法立法進程，建立全周期全鏈條監(jiān)管體系。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉

媒體：別被你的AI忽悠了 警惕AI幻覺陷阱

相關(guān)新聞

今日熱點

頻道熱點

媒體：別被你的AI忽悠了警惕AI幻覺陷阱