抖音嚴(yán)打AI色情低俗內(nèi)容 已處置1.4萬(wàn)個(gè)賬號(hào)!3月10日,抖音黑板報(bào)官方賬號(hào)發(fā)布內(nèi)容稱,抖音正嚴(yán)厲打擊各類色情低俗內(nèi)容,特別是利用AI技術(shù)生成的相關(guān)違規(guī)內(nèi)容。今年以來(lái),平臺(tái)已處置了4.2萬(wàn)條此類內(nèi)容,并對(duì)1.4萬(wàn)個(gè)賬號(hào)進(jìn)行了限制推薦、禁言、封禁等不同梯度的處罰。
為維護(hù)健康網(wǎng)絡(luò)環(huán)境,保障網(wǎng)民權(quán)益,抖音持續(xù)從嚴(yán)治理利用AI技術(shù)生成的低俗擦邊內(nèi)容,如“單親媽媽曖昧互動(dòng)”、“美女魅惑舞蹈”和“著裝暴露的海濱度假照”。這些內(nèi)容違反了《抖音社區(qū)自律公約》平臺(tái)規(guī)則,平臺(tái)堅(jiān)持從嚴(yán)從重處置。
利用色情低俗信息為色情網(wǎng)站導(dǎo)流或售賣淫穢色情物品的行為,違反了《中華人民共和國(guó)刑法》和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等相關(guān)法律法規(guī),涉嫌非法利用信息網(wǎng)絡(luò)罪、傳播淫穢物品罪。抖音將主動(dòng)上報(bào)公安機(jī)關(guān)處理這些違法行為。
在典型案例中,一個(gè)黑產(chǎn)團(tuán)伙通過(guò)AI生成“單親媽媽陪讀”人設(shè)的內(nèi)容,誘導(dǎo)用戶關(guān)注并跳轉(zhuǎn)至第三方平臺(tái)下載色情低俗App。該團(tuán)伙4人已被依法刑事拘留。另一個(gè)案例中,用戶“AI說(shuō)”、“一北”、“冰式”等通過(guò)直播間封面設(shè)置AI生成美女圖片,引導(dǎo)觀眾查看其主頁(yè)收藏,進(jìn)而為色情網(wǎng)站導(dǎo)流。相關(guān)賬號(hào)被無(wú)限期回收直播權(quán)限。還有用戶“奇藍(lán)”、“一差”、“哦哦”、“jg”持續(xù)發(fā)布AI生成的著裝暴露女性形象,進(jìn)行高空劈叉、魅惑舞蹈等動(dòng)作,以及聚焦私密部位的“泳池度假照”、“海濱度假照”等擦邊信息。平臺(tái)已清理相關(guān)違規(guī)內(nèi)容并對(duì)相關(guān)賬號(hào)采取了相應(yīng)處罰措施。
抖音將持續(xù)升級(jí)治理技術(shù)和手段,提升對(duì)利用AI技術(shù)生成不良內(nèi)容的發(fā)現(xiàn)、識(shí)別和處置能力。平臺(tái)提醒廣大創(chuàng)作者及用戶自覺(jué)遵守法律法規(guī)及平臺(tái)規(guī)則,共同抵制各類色情低俗、違規(guī)導(dǎo)流行為,維護(hù)健康的網(wǎng)絡(luò)環(huán)境。如發(fā)現(xiàn)相關(guān)違規(guī)內(nèi)容,可撥打抖音官方服務(wù)熱線95152或發(fā)送至舉報(bào)郵箱[email protected],平臺(tái)將及時(shí)跟進(jìn)處理。
印尼和馬來(lái)西亞近日相繼宣布暫時(shí)封禁美國(guó)企業(yè)家埃隆·馬斯克旗下的人工智能聊天機(jī)器人“格羅克(Grok)”,原因是擔(dān)心它被用于生成色情內(nèi)容
2026-01-13 14:39:53馬斯克旗下AI闖禍