網民用AI編造散播謠言被處罰 AI謠言風險需警惕

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-10-30 07:51:44 中國網

隨著AI生成技術的普及，只需簡單輸入文字指令，就能生成以假亂真的圖像、視頻。這不僅讓謠言傳播門檻大幅降低，也讓不少人在“獵奇”和“博流量”的驅使下觸碰法律與道德的紅線。近日，山東威海網安部門查獲兩起通過AI編造、傳播網絡謠言的違法行為。

一名威海網民張某為提升賬號關注度，使用某AI工具編造了“在監(jiān)獄直播帶貨”的圖片謠言信息，并發(fā)布在某互聯(lián)網平臺，引發(fā)大量網民關注和討論，擾亂公共秩序。另一名威海網民遲某在廣東臺風期間，編造“廣東陽江兩所教學樓因臺風受損”的虛假災情視頻畫面，在某短視頻平臺發(fā)布，誤導大量網民關注，嚴重擾亂社會公共秩序，引發(fā)恐慌，造成了不良社會影響。

公安機關依法給予張某和遲某行政處罰。根據《中華人民共和國治安管理處罰法》第二十五條的規(guī)定，散布謠言，謊報險情、疫情、警情或者以其他方法故意擾亂公共秩序的，處以五日以上十日以下拘留，可以并處五百元以下罰款；情節(jié)較輕的，處五日以下拘留或者五百元以下罰款。

通過類似案件看，一些AI謠言的背后已形成分工明確的灰色產業(yè)鏈。其具備“低成本量產”的特性，單日最高可生成4000至7000篇虛假文章，成本僅為傳統(tǒng)造謠的1%。AI謠言帶來的風險隱患確實值得高度警惕，主要體現(xiàn)在：

與傳統(tǒng)謠言相比，AI謠言因其技術特性，危害性呈指數(shù)級放大。這些謠言具有高仿真與強迷惑性，生成的文字、圖片、音視頻內容逼真，普通網民難以分辨。此外，AI謠言進化與迭代能力強，甚至能針對辟謠信息快速生成新版本進行反駁或迭代，形成動態(tài)對抗，讓治理防不勝防。

作為信息接收者，可以通過以下方式識別潛在的AI謠言：警惕那些沒有明確作者、來源模糊或偽裝成“網友投稿”“內部消息”的內容?？煽康男畔⑼ǔＳ姓?guī)的新聞機構或官方信源背書。對于圖片和視頻，仔細觀察是否存在AI生成的典型痕跡，例如人物手指數(shù)量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。判斷內容是否存在明顯的事實錯誤或邏輯矛盾，比如時間線錯亂或地理信息錯誤。善用權威辟謠平臺進行查證，同時可以關注公安部網安局發(fā)布的相關警示信息。

(責任編輯：zx0176)

關閉

網民用AI編造散播謠言被處罰 AI謠言風險需警惕

相關新聞

今日熱點

頻道熱點