別讓DeepSeek成了造謠者的白手套！今年2月，一位普通股民在雪球論壇看到一張AI問答截圖，聲稱某公司已投資AI巨頭DeepSeek，股價即將暴漲。對于渴望抓住每一個投資機會的股民來說，這無疑是一條極具誘惑的消息。他堅信截圖中的內容并興奮地跟風買入，結果次日該公司辟謠，股價反而下跌，自己遭受沉重一擊。

類似的情況并非個例。從“某公司投資DeepSeek”到“涼山山體滑坡”，AI生成的虛假信息正以病毒式速度擴散，背后存在一條由黑灰產操控的“AI謠言流水線”。在股市中，一些造謠者被稱為“黑嘴”，他們發(fā)布虛假信息引誘投資者上鉤，通過養(yǎng)粉薦股后的反向操作收割機構或個人。如今，這些“黑嘴”利用DeepSeek、豆包等AI工具作為“白手套”，制造謠言并將其包裝成“權威答案”，再通過算法反哺形成閉環(huán)，最終收割流量與利益。

很多虛假信息的背后是有組織、有計劃的AI造謠。此前，慈星股份、華勝天成、并行科技、誠邁科技等多家公司被描述為“DeepSeek的投資者”，但事實上這些公司都沒有參與投資。這種情況主要與數(shù)據(jù)投喂有關。隱藏在網絡背后的造謠者會利用AI批量生產謠言，如“慈星股份投資了DeepSeek”，甚至有人一天能制造幾千篇虛假文章。接著，造謠者會操控大量水軍賬號，在多個線上平臺高頻傳播這些信息，讓AI援引大量的虛假信息，充當自己的嘴替。很多人看到AI給出的答案后堅信不疑，落入圈套。

更嚴重的是，造謠者還會將AI的回答以截圖形式繼續(xù)傳播，形成“謠言—AI回答—更多謠言”的循環(huán)。這種自我強化的閉環(huán)使謠言像癌細胞般無限增殖。據(jù)統(tǒng)計，2024年搜索熱度較高的50個國內AI風險相關輿情案例中，超1/5與AI造謠有關，68%的網民曾因AI生成的“專家解讀”“權威數(shù)據(jù)”而誤信謠言。一名受訪者苦笑：“以前不信小道消息，現(xiàn)在連AI都撒謊，我們還能信誰？”

AI謠言帶來的破壞力巨大，不僅限于資本市場。前不久，“廣州法院對某汽車品牌L3級自動駕駛追尾事故作出首例判決”的謠言全網傳播，對該品牌的聲譽和銷售造成打擊。在公共安全事故時，有人故意制造AI謠言擾亂視聽，干擾救援節(jié)奏，引發(fā)民眾恐慌。世界經濟論壇發(fā)布的《2025年全球風險報告》顯示，“錯誤和虛假信息”是2025年全球面臨的五大風險之一，AI濫用是這種風險的重要推手。

AI淪為造謠者的“嘴替”主要因為其存在的短板。其中較為突出的問題是語料污染與AI幻覺。AI大模型訓練依賴海量數(shù)據(jù)，但數(shù)據(jù)的真實性無人擔保。中國信通院實驗發(fā)現(xiàn)，當在特定論壇連續(xù)發(fā)布百余條虛假信息后，主流AI大模型對對標問題的回答置信度會迅速飆升。紐約大學的研究團隊也揭示了大語言模型在數(shù)據(jù)訓練中的脆弱性，極少量的虛假信息就能導致整個模型出現(xiàn)重大錯誤。此外，AI為了完成邏輯自洽，有時還會胡編亂造，產生“AI幻覺”。

傳統(tǒng)造謠需要雇傭寫手，而AI將成本壓縮至近乎為零且效率極高，利益豐厚。南昌警方查處某MCN機構，負責人王某某通過AI工具每日生成虛假文章4000-7000篇，內容涵蓋“某公司暴雷”“某地災情”等，最高峰時每天收入超1萬元。某黑產從業(yè)者聲稱：“用AI造謠就像開印鈔機，團隊3個人一個月能賺50萬?！彼麄兩踔灵_發(fā)了“謠言KPI系統(tǒng)”，根據(jù)傳播量獎勵造謠者。

盡管《互聯(lián)網信息服務深度合成管理規(guī)定》要求標注AI內容，但一些平臺仍有所欠缺。當越來越多的人被卷入這場AI造謠形成的虛假信息漩渦，單純譴責技術無濟于事。唯有技術防御、平臺責任與法律制裁三管齊下，才能斬斷這條“謊言流水線”。

要減小謠言發(fā)生的概率，AI工具需嚴格檢測數(shù)據(jù)來源和真實性。豆包的數(shù)據(jù)源主要依賴自有業(yè)務數(shù)據(jù)，占比50%-60%，外采數(shù)據(jù)占比15%-20%。豆包公開強調“不使用任何其他模型數(shù)據(jù)”，確保數(shù)據(jù)來源獨立可靠。用AI檢測AI生成的內容也是一種有效控制謠言的方法。國內外已有多個團隊投入開發(fā)AI生成內容檢測技術，如騰訊混元安全團隊朱雀實驗室研發(fā)的AI生成圖片檢測系統(tǒng)，檢出率達95%以上。Meta創(chuàng)建了一個系統(tǒng)，可以在AI生成的音頻片段中嵌入隱藏信號，幫助檢測AI生成內容。

內容平臺作為信息傳播的重要渠道，需擔負起“信息守門人”的責任。抖音、微博、快手、小紅書等平臺已經開始強制添加“本內容由AI生成”的水印，轉發(fā)時保留標識。今日頭條在謠言治理上建設了謠言庫、權威信源庫以及專業(yè)審核團隊。用戶自身也要學會辨別虛假信息，加強防范意識。對于AI給出的回答，不要全盤接收，而是追問具體細節(jié)，判斷回答是否存在幻覺。交叉驗證信息也是一個有效方法，通過多種渠道驗證答案的準確性。

《生成式人工智能服務管理暫行辦法》已經要求數(shù)據(jù)來源合法化，并明確“不得生成虛假有害信息”的紅線，但當前法律法規(guī)對“AI投喂”的問題仍存在空白，需要進一步優(yōu)化。具體而言，法律需要在“投喂者如何打造語料”“語料的真實性”“投喂的目的”等環(huán)節(jié)進行相關管制。AI應成為“真相守護者”，而非“謊言擴音器”。從語料凈化到平臺和法律的同步整治，這場“AI打假”必須要打贏。AI工具、內容平臺與監(jiān)管者要合力構建“共治防火墻”，讓謠言困在籠子里，真正成為照亮真相的火炬。