不久前，某著名食品公司向安徽省合肥市公安局經(jīng)開(kāi)分局報(bào)案稱，多個(gè)網(wǎng)絡(luò)平臺(tái)上集中出現(xiàn)大量虛假、帶有誘導(dǎo)性的負(fù)面文章，惡意攻擊公司品牌及產(chǎn)品品質(zhì)。公安機(jī)關(guān)立案調(diào)查，民警在多個(gè)平臺(tái)發(fā)現(xiàn)關(guān)于該品牌“二氧化硫殘留”“霉變”等內(nèi)容的文章200余篇，且內(nèi)容高度雷同。經(jīng)核實(shí)，上述內(nèi)容均為虛假信息。信息發(fā)布者陳某被行政拘留。陳某交代，他使用AI工具編造內(nèi)容，生成多篇虛假負(fù)面文章，在多個(gè)平臺(tái)集中發(fā)布。

業(yè)內(nèi)專家指出，傳統(tǒng)謠言生產(chǎn)依賴造謠者人工操作。如今，造謠者使用AI工具，只要輸入特定關(guān)鍵詞或指令，便可快速生成內(nèi)容逼真、欺騙性強(qiáng)的謠言，從而實(shí)現(xiàn)謠言的大規(guī)模、高效率生產(chǎn)。

去年3月，江西公安機(jī)關(guān)查處一起MCN機(jī)構(gòu)使用人工智能工具造謠案。經(jīng)查，王某某經(jīng)營(yíng)有5家MCN機(jī)構(gòu)，共運(yùn)營(yíng)自媒體賬號(hào)842個(gè)，長(zhǎng)期組織公司人員選取熱點(diǎn)文章，使用AI工具批量生成不實(shí)文章進(jìn)行吸粉引流。辦案民警說(shuō)，他平均每天通過(guò)AI工具發(fā)布4000到7000條信息，最高的一條收入是700元。初步估算，每天收入在1萬(wàn)元以上。

記者發(fā)現(xiàn)，多起AI造謠事件背后，不法者的造謠動(dòng)機(jī)主要源于牟取互聯(lián)網(wǎng)內(nèi)容平臺(tái)給予創(chuàng)作者的獎(jiǎng)勵(lì)，以及為電商平臺(tái)經(jīng)營(yíng)引流等；一些造謠者還可以從廣告收入、合同推廣、直播帶貨或其他相關(guān)的商業(yè)活動(dòng)中獲益。

一名長(zhǎng)期從事自媒體工作的博主表示，以某大型內(nèi)容生產(chǎn)平臺(tái)為例，收益計(jì)算公式可以簡(jiǎn)化為“有效播放量×互動(dòng)系數(shù)×千次播放單價(jià)”。平臺(tái)會(huì)對(duì)點(diǎn)擊量高、互動(dòng)性強(qiáng)的原創(chuàng)性內(nèi)容給予更多收益分成。如果整體權(quán)重較高，一篇閱讀或播放100萬(wàn)次的稿件，收益可超過(guò)1000元。

此外，不正當(dāng)商業(yè)競(jìng)爭(zhēng)也進(jìn)一步催生了AI謠言黑色產(chǎn)業(yè)鏈。一位頭部消費(fèi)電子企業(yè)法務(wù)相關(guān)負(fù)責(zé)人透露，“金主”企業(yè)放出任務(wù)信號(hào)后，公關(guān)公司會(huì)找來(lái)一批自媒體運(yùn)營(yíng)者、KOL，利用AI技術(shù)生成虛假信息，大批量、高頻次在社交媒體、網(wǎng)絡(luò)平臺(tái)等釋放抹黑競(jìng)爭(zhēng)對(duì)手的內(nèi)容；此后還有營(yíng)銷(xiāo)公司及流量商加入，進(jìn)一步擴(kuò)散傳播謠言。