別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對(duì)決

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-05 08:34:33 新浪網(wǎng)

別讓DeepSeek成了造謠者的白手套！今年2月，一位普通股民在雪球論壇看到一張AI問答截圖，聲稱某公司已投資AI巨頭DeepSeek，股價(jià)即將暴漲。對(duì)于渴望抓住每一個(gè)投資機(jī)會(huì)的股民來說，這無疑是一條極具誘惑的消息。他堅(jiān)信截圖中的內(nèi)容并興奮地跟風(fēng)買入，結(jié)果次日該公司辟謠，股價(jià)反而下跌，自己遭受沉重一擊。

類似的情況并非個(gè)例。從“某公司投資DeepSeek”到“涼山山體滑坡”，AI生成的虛假信息正以病毒式速度擴(kuò)散，背后存在一條由黑灰產(chǎn)操控的“AI謠言流水線”。在股市中，一些造謠者被稱為“黑嘴”，他們發(fā)布虛假信息引誘投資者上鉤，通過養(yǎng)粉薦股后的反向操作收割機(jī)構(gòu)或個(gè)人。如今，這些“黑嘴”利用DeepSeek、豆包等AI工具作為“白手套”，制造謠言并將其包裝成“權(quán)威答案”，再通過算法反哺形成閉環(huán)，最終收割流量與利益。

很多虛假信息的背后是有組織、有計(jì)劃的AI造謠。此前，慈星股份、華勝天成、并行科技、誠邁科技等多家公司被描述為“DeepSeek的投資者”，但事實(shí)上這些公司都沒有參與投資。這種情況主要與數(shù)據(jù)投喂有關(guān)。隱藏在網(wǎng)絡(luò)背后的造謠者會(huì)利用AI批量生產(chǎn)謠言，如“慈星股份投資了DeepSeek”，甚至有人一天能制造幾千篇虛假文章。接著，造謠者會(huì)操控大量水軍賬號(hào)，在多個(gè)線上平臺(tái)高頻傳播這些信息，讓AI援引大量的虛假信息，充當(dāng)自己的嘴替。很多人看到AI給出的答案后堅(jiān)信不疑，落入圈套。

更嚴(yán)重的是，造謠者還會(huì)將AI的回答以截圖形式繼續(xù)傳播，形成“謠言—AI回答—更多謠言”的循環(huán)。這種自我強(qiáng)化的閉環(huán)使謠言像癌細(xì)胞般無限增殖。據(jù)統(tǒng)計(jì)，2024年搜索熱度較高的50個(gè)國內(nèi)AI風(fēng)險(xiǎn)相關(guān)輿情案例中，超1/5與AI造謠有關(guān)，68%的網(wǎng)民曾因AI生成的“專家解讀”“權(quán)威數(shù)據(jù)”而誤信謠言。一名受訪者苦笑：“以前不信小道消息，現(xiàn)在連AI都撒謊，我們還能信誰？”

12 3 全文共 3 頁下一頁

關(guān)閉

別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對(duì)決

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)