近期,部分網(wǎng)絡(luò)賬號(hào)在發(fā)布AI生成合成信息時(shí)未添加AI標(biāo)識(shí),導(dǎo)致虛假不實(shí)內(nèi)容誤導(dǎo)公眾,破壞了網(wǎng)絡(luò)生態(tài),造成了惡劣影響。針對(duì)這一問題,網(wǎng)信部門督促網(wǎng)站平臺(tái)深入排查整治,依法依約處置了13421個(gè)賬號(hào),并清理了54.3萬(wàn)余條違法違規(guī)信息。
一些典型案例顯示,微信賬號(hào)“浮萍9419”等通過AI換臉和聲音克隆等方式假冒運(yùn)動(dòng)員、演員、主持人、企業(yè)家等公眾人物,發(fā)布不實(shí)言論以吸粉引流,或未經(jīng)授權(quán)售賣AI生成的公眾人物“送祝?!薄鞍菽辍钡纫曨l,從中不當(dāng)牟利。抖音賬號(hào)“巷子里的魚”等則發(fā)布了AI生成的虛假火災(zāi)現(xiàn)場(chǎng)圖片和視頻,惡意編造并炒作火災(zāi)事故,混淆視聽,擾亂公共秩序。
未來(lái),網(wǎng)信部門將繼續(xù)對(duì)無(wú)AI標(biāo)識(shí)的虛假不實(shí)信息保持高壓嚴(yán)管態(tài)勢(shì),一旦發(fā)現(xiàn)違規(guī)行為將立即進(jìn)行處置。