近兩年，利用AI造謠事件層出不窮，嚴(yán)重威脅網(wǎng)絡(luò)安全。那么，AI造謠都有哪些套路，我們又該如何甄別相關(guān)謠言？

網(wǎng)絡(luò)謠言常見套路

無中生有、憑空杜撰

造謠者編造虛假事件，利用公眾對(duì)熱點(diǎn)事件的關(guān)注，虛構(gòu)災(zāi)害、事故或政策變動(dòng)等吸引人眼球。例如編造“某地發(fā)生地震、大量人員傷亡”等消息，實(shí)際并無此類事件發(fā)生。

扭曲事實(shí)、夸大其詞

在真實(shí)事件基礎(chǔ)上夸大細(xì)節(jié)，捏造傷亡人數(shù)、災(zāi)情嚴(yán)重程度等，營(yíng)造恐慌氛圍。例如將輕微火災(zāi)描述為“大火蔓延、多人遇難”，實(shí)際傷亡遠(yuǎn)低于謠言所稱。

拼湊剪接、半真半假

混合真實(shí)素材與虛假內(nèi)容，使信息看似有依據(jù)，實(shí)則是誤導(dǎo)。如用舊照片或視頻拼接成新的災(zāi)害現(xiàn)場(chǎng)，或在真實(shí)事件中添加虛假情節(jié)，如“某餐廳爆炸”實(shí)為影視拍攝場(chǎng)景。

AI偽造、仿真難辨

利用AI生成逼真的圖片、視頻或音頻，偽裝成官方報(bào)道或真實(shí)事件。例如合成名人演講視頻、偽造災(zāi)害現(xiàn)場(chǎng)，或生成虛假的權(quán)威聲明，利用AI技術(shù)的高仿真性迷惑公眾。

AI生成網(wǎng)絡(luò)謠言特征

門檻低

相比此前造謠者需要靠人工捏造、散布謠言這一略顯“原始”的方式，現(xiàn)在利用AI造謠者只需在AI工具輸入關(guān)鍵詞即可“一鍵生成”能以假亂真的文章、圖片。

定制化

生成式人工智能通過多模態(tài)機(jī)器學(xué)習(xí)技術(shù)從數(shù)據(jù)中學(xué)習(xí)不同內(nèi)容的生成特征以及主體的表達(dá)風(fēng)格，在網(wǎng)絡(luò)上抓取素材生成文本，形成定制化的文章、新聞、報(bào)告等信息。

識(shí)別難

AI的核心目標(biāo)是模擬人類多感官協(xié)同認(rèn)知，所以生成的虛假信息在形式上非常逼真，往往新聞要素齊全、內(nèi)容完整，甚至可能包含圖像和視頻，這使得公眾難以辨別真?zhèn)?，這種偽裝性和欺騙性讓謠言更加具有迷惑性。