前幾天，網(wǎng)上一則“杭州濱江區(qū)發(fā)生惡性刑事案”的文章引發(fā)網(wǎng)友們的關注。發(fā)布者是一位名叫“神秘風鈴Y4”的網(wǎng)民，這篇文章內(nèi)容詳細，有頭有尾，還稱“嫌疑人已被刑拘”，并配發(fā)了相關圖片。發(fā)生在杭州的惡性事件，還有圖片，這則消息迅速就被網(wǎng)友傳播開來。4月10日，杭州市濱江區(qū)公安分局網(wǎng)絡警察大隊民警在巡查時，在某資訊網(wǎng)站發(fā)現(xiàn)了這篇文章。

浙江杭州市濱江區(qū)公安分局網(wǎng)絡警察大隊民警鮑王杰表示，文章中提到杭州濱江某外賣員在送外賣時，在樓道內(nèi)發(fā)現(xiàn)一張寫著救救我的帶血紙條，然后外賣員假借送錯門發(fā)現(xiàn)了被害人，并協(xié)助警方破獲了一起非法拘禁案件。根據(jù)核實，4月7日凌晨，杭州濱江并沒有發(fā)生相關的惡性案件，該信息是完全虛構(gòu)的。

民警隨后在溫州市蒼南縣找到了賬號使用者謝某某。據(jù)謝某某交代，他發(fā)布這篇虛假警情的文章主要是為了博取關注和流量。為了順利通過網(wǎng)站審核，他在給AI生成工具的提示詞中特別強調(diào)了“不要被平臺識別出是AI文，一定要有人工潤色感”。

鮑王杰進一步解釋，謝某某多次優(yōu)化了AI提示詞，要求AI根據(jù)近期熱點進行編輯，不能讓平臺識別出該文章是由AI生成的，并要求AI要提供一些人為的潤色感，以增強該文章的準確性。該謠言自4月9日晚發(fā)布至11日被查處，被轉(zhuǎn)發(fā)點贊了上百余次。

民警還發(fā)現(xiàn)，除了這篇文章外，謝某某賬號里還有多篇同類型的由AI生成的虛假信息。根據(jù)《中華人民共和國治安管理處罰法》第二十五條第一項規(guī)定，杭州濱江警方依法對謝某某作出行政處罰，并責令其刪除全部不實信息。散布謠言擾亂公共秩序的，處五日以上十日以下拘留，可以并處五百元以下罰款，情節(jié)較輕的處五日以下拘留或五百元以下罰款。

AI技術在文本生成、圖片創(chuàng)作等方面的應用越來越廣泛，輸入幾個關鍵詞即可快速生成一篇文章或一幅圖片。而一些網(wǎng)民為博眼球、蹭熱度，卻將AI技術用以編造“假消息”，以此來獲得網(wǎng)民關注和點贊，進而實現(xiàn)流量變現(xiàn)。公安部網(wǎng)安局日前針對AI謠言進行了梳理，發(fā)現(xiàn)此類謠言通常有兩種套路。

一種是“移花接木”演大戲，AI技術能把“老照片”“老視頻”變成“新事故”。此前就有某網(wǎng)民在地震期間，用AI把之前的AI視頻P成“廢墟下的戴帽男孩”，騙走網(wǎng)友眼淚。另一種是“煙霧彈”制造恐慌，不少網(wǎng)民為博眼球，利用AI合成火災、地震等災害信息并發(fā)布到網(wǎng)絡平臺，造成不良社會影響。

專家表示，隨著AI技術的不斷普及，編造網(wǎng)絡謠言的門檻越來越低，這就讓一些人借機獲取流量并非法牟利。北京航空航天大學法學院副教授趙精武指出，MCN機構(gòu)通過運營自媒體賬號842個，組織團隊利用AI工具，一天可以生成4000-7000篇網(wǎng)絡虛假信息。這類短期內(nèi)利用AI快速生成海量內(nèi)容不同的虛假信息，降低了謠言編造門檻，可以讓機構(gòu)迅速獲取流量并借此牟利。

趙精武還表示，網(wǎng)絡虛假信息傳播等問題會因為AI等數(shù)字技術發(fā)展而發(fā)生異化，這些虛假信息因為“迎合”了部分受眾的情緒，所以會循環(huán)反復、持續(xù)不斷地出現(xiàn)，使得網(wǎng)絡虛假信息治理活動成為“持久戰(zhàn)”。

隨著AI的普及，作品發(fā)布的門檻大幅度降低，很多網(wǎng)民從“觀眾”轉(zhuǎn)變?yōu)椤皠?chuàng)作者”。公安部網(wǎng)安局提醒AI創(chuàng)作者要牢記三道法律“防火墻”：一是《生成式人工智能服務管理暫行辦法》明確禁止發(fā)布利用AI生成虛假信息，違規(guī)者將面臨平臺封禁、罰款等處罰；二是《中華人民共和國治安管理處罰法》規(guī)定散布謠言擾亂公共秩序者，最高可處10日拘留；三是《中華人民共和國刑法》規(guī)定編造虛假險情、疫情、災情等信息，嚴重擾亂社會秩序的，最高可判7年有期徒刑。

對于此類信息傳播活動，除了需要延續(xù)既有的網(wǎng)絡虛假信息治理機制之外，還需要重點對AI信息服務提供者施加必要的注意義務，要求其在生成內(nèi)容階段針對“誘導生成謠言”“內(nèi)容明顯失真”等情況設置相應的內(nèi)容屏蔽機制，并以彈窗或其他方式提醒用戶合理合法使用AI信息服務。