今年3月初，一則關(guān)于“華山醫(yī)院前院長(zhǎng)張明遠(yuǎn)因闌尾炎未得到及時(shí)救治客死他鄉(xiāng)”的消息在互聯(lián)網(wǎng)上廣泛傳播。然而經(jīng)警方核查，華山醫(yī)院并沒(méi)有名為“張明遠(yuǎn)”的前院長(zhǎng)或同名員工。上海公安網(wǎng)安部門對(duì)此展開(kāi)調(diào)查，最終成功偵破這起利用AI造謠案，抓獲犯罪嫌疑人王某某、郭某某和石某某。

自2025年2月起，這三人成立了一個(gè)工作室，通過(guò)自媒體賬號(hào)發(fā)布內(nèi)容以吸粉引流牟利。他們控制了500多個(gè)自媒體賬號(hào)，設(shè)置社會(huì)熱點(diǎn)、明星緋聞、爆款推薦等關(guān)鍵詞，引導(dǎo)AI軟件自動(dòng)生成并發(fā)布不實(shí)帖文，日均發(fā)布量超過(guò)1萬(wàn)條，累計(jì)發(fā)布不實(shí)信息30余萬(wàn)條，非法獲利4萬(wàn)余元。這些行為造成了惡劣的社會(huì)影響。目前，王某某等三名嫌疑人因涉嫌非法利用信息網(wǎng)絡(luò)罪被上海警方依法采取刑事強(qiáng)制措施，相關(guān)違法賬號(hào)也被封禁。

今年以來(lái)，上海公安機(jī)關(guān)積極開(kāi)展打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)，嚴(yán)厲打擊“造熱點(diǎn)”“帶節(jié)奏”的網(wǎng)絡(luò)水軍。截至目前，已破獲網(wǎng)絡(luò)水軍案件15起，抓獲38名違法犯罪嫌疑人。

據(jù)犯罪嫌疑人王某某供述，他們?cè)诎l(fā)布內(nèi)容前并不知道有華山醫(yī)院，也不知道“張明遠(yuǎn)”這個(gè)人。他們主要采集“閱讀top”內(nèi)容，并用AI批量改寫，要求AI生成的內(nèi)容第一句話要吸引人，以吸引更多點(diǎn)擊量。他們的收入主要依賴于流量，每天發(fā)布1萬(wàn)多條不同內(nèi)容的帖文，每萬(wàn)次閱讀量大約可以獲得5元收益。

王某某表示，他們?cè)蚓幵炷撑餍侨ナ罆r(shí)的虛假信息而被平臺(tái)處罰，但總體來(lái)說(shuō)，被處罰的概率很低?，F(xiàn)在他們認(rèn)識(shí)到自己的錯(cuò)誤，感到非常后悔。他們認(rèn)為獲得流量應(yīng)該有底線，不應(yīng)該胡編亂造或者夸大其詞，更不應(yīng)該編造發(fā)布虛假信息。

警方指出，這一團(tuán)伙的行為主要是為了“養(yǎng)號(hào)”漲粉，以便后續(xù)直播帶貨等牟利。這種行為是“流量經(jīng)濟(jì)”劣化的表現(xiàn)形式，通過(guò)AI編造大量不實(shí)、虛假、有害的信息，對(duì)網(wǎng)絡(luò)環(huán)境造成嚴(yán)重劣化。上海公安機(jī)關(guān)與頭部平臺(tái)建立了暢通的工作聯(lián)動(dòng)機(jī)制，及時(shí)通報(bào)掌握的問(wèn)題，持續(xù)加強(qiáng)網(wǎng)絡(luò)生態(tài)治理，全力營(yíng)造清朗有序的網(wǎng)絡(luò)環(huán)境。