央媒揭AI造謠利益鏈流量變現(xiàn)驅(qū)動黑產(chǎn)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-09-17 09:32:28 海報新聞

央媒揭AI造謠利益鏈流量變現(xiàn)驅(qū)動黑產(chǎn)！不久前，公眾號運營者鐘某為蹭“海嘯預(yù)警”熱點，利用AI生成“30萬居民撤離上海”“數(shù)十萬上海市民正排隊登車”等聳人聽聞的言論。這條假消息被大量閱讀、轉(zhuǎn)發(fā)，引發(fā)恐慌情緒。隨后，鐘某被警方拘留。

AI的廣泛應(yīng)用為虛假信息的批量生產(chǎn)和病毒式傳播提供了便利，給社會治理帶來挑戰(zhàn)。9月15日，《人工智能安全治理框架》2.0版正式發(fā)布。中央網(wǎng)信辦負責人表示，要強化規(guī)范引導(dǎo)，不斷完善人工智能安全監(jiān)管制度和標準規(guī)范體系，促進人工智能健康有序發(fā)展。

今年3月，福建廈門公安機關(guān)發(fā)現(xiàn)網(wǎng)上有信息稱：“2025年3月3日，廈門市某化工廠發(fā)生一起嚴重的閃爆事故，造成3人死亡、3人受傷……”調(diào)查發(fā)現(xiàn)，這是發(fā)布者許某通過網(wǎng)上AI助手軟件生成的虛假文章。公安機關(guān)對許某予以行政處罰。

人工智能時代，利用AI造謠日漸頻繁。公安部曾發(fā)布多起典型案例。如湖南公安機關(guān)查處編造“民警離職潮”謠言案，江西公安機關(guān)查處MCN機構(gòu)使用人工智能工具造謠案，重慶公安機關(guān)查處使用人工智能工具編造“爆炸事故”謠言案，廣東公安機關(guān)查處編造“廣州限制外賣配送”謠言案。相關(guān)人員均被依法處理。

清華大學新聞與傳播學院新媒體研究中心2024年發(fā)布的研究報告指出，伴隨AIGC技術(shù)的高速發(fā)展，一些造謠者不當利用AI工具，使得AI謠言量高速增長。報告指出，在各類AI謠言信息量占比中，經(jīng)濟與企業(yè)類謠言和公共安全類謠言占比最多、增速最快，其中餐飲外賣、快遞配送等民生行業(yè)成為謠言重災(zāi)區(qū)。

記者調(diào)查發(fā)現(xiàn)，人工智能技術(shù)讓網(wǎng)絡(luò)謠言內(nèi)容更為逼真，常配有偽造的圖片、視頻甚至所謂“官方回應(yīng)”，極具迷惑性。中國（深圳）綜合開發(fā)研究院院長助理、數(shù)字經(jīng)濟與全球戰(zhàn)略研究所所長曹鐘雄等業(yè)內(nèi)人士認為，AI不僅能高效生成虛假信息，而且可以通過過濾、推薦機制，將虛假信息聚合形成“證據(jù)鏈”，給普通用戶乃至專業(yè)人士造成誤導(dǎo)。

12 3 全文共 3 頁下一頁

關(guān)閉

央媒揭AI造謠利益鏈 流量變現(xiàn)驅(qū)動黑產(chǎn)

相關(guān)新聞

今日熱點

頻道熱點

央媒揭AI造謠利益鏈流量變現(xiàn)驅(qū)動黑產(chǎn)