利用AI工具造謠傳謠 5起典型案例公布

2026-06-04 08:28:44 來源：央視新聞客戶端 A+A-

近年來，隨著人工智能技術(shù)迅猛發(fā)展，一些不法分子為博取流量、吸引關(guān)注，利用AI工具編造虛假信息，嚴(yán)重破壞網(wǎng)絡(luò)生態(tài)，擾亂社會(huì)秩序，誤導(dǎo)公眾認(rèn)知。為進(jìn)一步提升全民識(shí)謠辨謠能力，6月3日，山西網(wǎng)安部門集中曝光5起近期查處的利用AI技術(shù)制造傳播網(wǎng)絡(luò)謠言的典型案例。

【案例一】為博流量虛構(gòu)“工廠爆炸”場(chǎng)景，企業(yè)員工被依法查處

近日，大同網(wǎng)安部門在工作中發(fā)現(xiàn)，有網(wǎng)民在某平臺(tái)發(fā)布視頻稱：“山西大同一車間內(nèi)發(fā)生爆炸，現(xiàn)場(chǎng)只有一名工人受傷，傷者面部燒傷面積100%”，引發(fā)網(wǎng)民關(guān)注。經(jīng)查，涉事企業(yè)并未發(fā)生任何安全事故，相關(guān)內(nèi)容系該企業(yè)員工趙某某通過AI工具生成的虛假文案和虛假視頻。在互聯(lián)網(wǎng)平臺(tái)發(fā)布后，引發(fā)網(wǎng)民關(guān)注，造成不良影響。目前，公安機(jī)關(guān)已依法對(duì)趙某某作出行政處罰。

【案例二】利用AI仿冒名人直播帶貨，擾亂秩序被依法查處

近日，大同網(wǎng)安部門在工作中發(fā)現(xiàn)，轄區(qū)居民邢某非法使用中國(guó)國(guó)民黨主席鄭麗文形象的AI數(shù)字人直播帶貨，引發(fā)網(wǎng)民質(zhì)疑，嚴(yán)重干擾正常網(wǎng)絡(luò)秩序。經(jīng)查，邢某從事直播帶貨，恰逢鄭麗文訪問大陸熱度很高，遂萌生利用名人熱度增加流量的想法。隨后在未經(jīng)授權(quán)的情況下，利用AI工具生成AI數(shù)字人形象及帶貨方案，之后在媒體平臺(tái)直播帶貨，引發(fā)社會(huì)關(guān)注，造成惡劣影響。目前，公安機(jī)關(guān)已依法對(duì)邢某作出行政處罰。

【案例三】AI生成“高速車禍”謠言，編造“2死6重傷”被依法查處

近日，長(zhǎng)治網(wǎng)安部門在工作中發(fā)現(xiàn)，網(wǎng)民趙某在某網(wǎng)絡(luò)平臺(tái)發(fā)布題為“長(zhǎng)治人速看！長(zhǎng)晉高速大客車側(cè)翻致2死6重傷，道路結(jié)冰預(yù)警生效，這些行車規(guī)則必須記牢！”的貼文，配發(fā)多張所謂“事故現(xiàn)場(chǎng)圖”，引發(fā)網(wǎng)民轉(zhuǎn)發(fā)。經(jīng)查，長(zhǎng)晉高速未發(fā)生此類交通事故，文中所述內(nèi)容純屬虛構(gòu)。趙某承認(rèn)其為吸引粉絲關(guān)注，利用AI工具生成重大事故不實(shí)信息并發(fā)布。目前，公安機(jī)關(guān)已依法對(duì)趙某作出行政處罰。

12 全文共 2 頁(yè)下一頁(yè)