AI被濫用于色情圖片生成虛擬合成技術(shù)滋生黑灰產(chǎn)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-12 10:32:31 新華網(wǎng)

在短視頻社交平臺(tái)的隱秘角落，一場(chǎng)基于虛擬合成技術(shù)的犯罪正悄然蔓延。通過AI換臉、深度偽造等技術(shù)，大量違背倫理道德的色情視頻被制作出來。受害者面容被惡意嫁接到各類低俗影片中，甚至滋生出黑灰產(chǎn)。

業(yè)內(nèi)人士指出，這些以假亂真的換臉視頻不僅突破了法律與道德的底線，更對(duì)個(gè)人安全和社會(huì)公序良俗構(gòu)成嚴(yán)重威脅，呼吁加強(qiáng)治理。

小雨是一名娛樂主播，直播內(nèi)容主要是和粉絲聊天，不涉及任何擦邊內(nèi)容。但不法分子卻將小雨的臉換到色情影片中傳播，讓她無端卷入不良輿論風(fēng)波?？吹街辈ラg公屏上類似“視頻是不能P的”“居然背著我們偷偷拍片”的彈幕如爆炸般襲來，小雨自此不敢再參加任何線上或線下社交活動(dòng)。后來，小雨在短視頻平臺(tái)又發(fā)現(xiàn)有人毫不避諱地宣揚(yáng)有關(guān)她的色情影片。順著對(duì)方給的聯(lián)系方式，小雨進(jìn)入了一個(gè)所謂的“工程設(shè)計(jì)交流群”，發(fā)現(xiàn)群里全是各種各樣的網(wǎng)址和行業(yè)黑話。在這個(gè)群里，不法分子將許多女性的臉換到色情電影中非法牟利。最終，小雨報(bào)警，五名嫌疑人被抓，相關(guān)賬號(hào)和群聊也被永久封禁。

記者潛入一個(gè)“可靈AI交流群”群聊，群里一位名叫“學(xué)校的你進(jìn)社會(huì)”的網(wǎng)友發(fā)布了一條擦邊視頻，聲稱“988元包教會(huì)，流量很好”。視頻中，一位自稱女大學(xué)生的人坐在宿舍床上，穿著黑絲和蕾絲緊身衣做著各種低俗動(dòng)作。這位網(wǎng)友自詡AI換臉領(lǐng)域高手，只要發(fā)給他正臉照，即可生成與照片主人公相關(guān)的擦邊視頻。而在淘寶搜索“AI人臉替換”，也會(huì)出現(xiàn)不少提供AI換臉視頻制作服務(wù)的商家。消費(fèi)者只需花費(fèi)幾元到十幾元不等，就能定制一部換臉視頻，換臉對(duì)象可以是普通女性，也可以是女網(wǎng)紅、女明星。法律界人士指出，這些被明碼標(biāo)價(jià)的照片和視頻嚴(yán)重?fù)p害了受害者的肖像權(quán)益和人格尊嚴(yán)，亟待加強(qiáng)清理。

12 全文共 2 頁下一頁

關(guān)閉

AI被濫用于色情圖片生成 虛擬合成技術(shù)滋生黑灰產(chǎn)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI被濫用于色情圖片生成虛擬合成技術(shù)滋生黑灰產(chǎn)