上海警方破獲利用AI造謠牟利案 AI生成謠言牽涉多家企業(yè)。近日,上海警方在涉企網(wǎng)絡(luò)謠言專項(xiàng)打擊整治行動(dòng)中揭露了一起利用AI技術(shù)生成謠言牟利的刑事案件。涉案MCN機(jī)構(gòu)通過AI工具,在短短5分鐘內(nèi)就能制造百余篇不實(shí)文章,并通過控制多個(gè)自媒體賬號(hào)發(fā)布這些內(nèi)容來賺取平臺(tái)流量收益。截至案發(fā)時(shí),該機(jī)構(gòu)已非法獲利超過8萬元。
據(jù)負(fù)責(zé)此案?jìng)赊k的上海嘉定警方介紹,今年3月,小米、蔚來、沃爾沃等多家車企報(bào)案稱網(wǎng)絡(luò)上存在大量關(guān)于汽車銷量下滑的謠言。警方調(diào)查發(fā)現(xiàn),有4家MCN機(jī)構(gòu)共使用了4000余個(gè)自媒體賬號(hào)圍繞汽車和財(cái)經(jīng)話題不斷發(fā)稿,反復(fù)炒作熱搜話題并添加夸大或歪曲的內(nèi)容,累計(jì)發(fā)布了70萬篇文章,獲得了8000萬次閱讀量。
在這起案件中,小米公司成為了被利用AI技術(shù)造謠的目標(biāo)之一。相關(guān)MCN機(jī)構(gòu)通過P圖技術(shù)散布了一個(gè)虛假消息,聲稱小米曾在發(fā)布會(huì)上宣布“汽車SOS 1秒接通”,這一說法引起了廣泛關(guān)注,但小米公司隨后對(duì)此進(jìn)行了明確辟謠。
上海警方指出,這起案件背后是利用AI技術(shù)編造涉企謠言的犯罪行為。警方抓獲了兩名主要犯罪嫌疑人梁某和郭某,他們購(gòu)買了4000多個(gè)自媒體賬號(hào),利用AI將熱搜話題加工成圖文并茂的文章后隨機(jī)分配給不同賬號(hào)發(fā)布。這些內(nèi)容既包括AI生成的謠言也包括惡意貶損的信息,嫌疑人從不對(duì)內(nèi)容進(jìn)行審核,只需安排AI寫稿并發(fā)布即可輕松獲取流量費(fèi)用。
目前,上海市公安局嘉定分局以非法經(jīng)營(yíng)罪對(duì)這兩名主要犯罪嫌疑人采取了刑事強(qiáng)制措施,并針對(duì)其交代的潛在上游公司展開進(jìn)一步偵查。上海警方表示,未來將堅(jiān)決打擊通過AI工具批量生成“偽原創(chuàng)”文章來造謠中傷企業(yè)的新型違法犯罪行為。
近日,有人在網(wǎng)絡(luò)社交平臺(tái)發(fā)布針對(duì)中國(guó)女籃教練員和運(yùn)動(dòng)員的不實(shí)視頻信息。
2025-12-24 11:00:52中國(guó)女籃