在短視頻社交平臺(tái)的隱秘角落,一場(chǎng)基于虛擬合成技術(shù)的犯罪正悄然蔓延。通過AI換臉、深度偽造等技術(shù),大量違背倫理道德的色情視頻被制作出來。受害者面容被惡意嫁接到各類低俗影片中,甚至滋生出黑灰產(chǎn)。
業(yè)內(nèi)人士指出,這些以假亂真的換臉視頻不僅突破了法律與道德的底線,更對(duì)個(gè)人安全和社會(huì)公序良俗構(gòu)成嚴(yán)重威脅,呼吁加強(qiáng)治理。
小雨是一名娛樂主播,直播內(nèi)容主要是和粉絲聊天,不涉及任何擦邊內(nèi)容。但不法分子卻將小雨的臉換到色情影片中傳播,讓她無端卷入不良輿論風(fēng)波??吹街辈ラg公屏上類似“視頻是不能P的”“居然背著我們偷偷拍片”的彈幕如爆炸般襲來,小雨自此不敢再參加任何線上或線下社交活動(dòng)。后來,小雨在短視頻平臺(tái)又發(fā)現(xiàn)有人毫不避諱地宣揚(yáng)有關(guān)她的色情影片。順著對(duì)方給的聯(lián)系方式,小雨進(jìn)入了一個(gè)所謂的“工程設(shè)計(jì)交流群”,發(fā)現(xiàn)群里全是各種各樣的網(wǎng)址和行業(yè)黑話。在這個(gè)群里,不法分子將許多女性的臉換到色情電影中非法牟利。最終,小雨報(bào)警,五名嫌疑人被抓,相關(guān)賬號(hào)和群聊也被永久封禁。
記者潛入一個(gè)“可靈AI交流群”群聊,群里一位名叫“學(xué)校的你進(jìn)社會(huì)”的網(wǎng)友發(fā)布了一條擦邊視頻,聲稱“988元包教會(huì),流量很好”。視頻中,一位自稱女大學(xué)生的人坐在宿舍床上,穿著黑絲和蕾絲緊身衣做著各種低俗動(dòng)作。這位網(wǎng)友自詡AI換臉領(lǐng)域高手,只要發(fā)給他正臉照,即可生成與照片主人公相關(guān)的擦邊視頻。而在淘寶搜索“AI人臉替換”,也會(huì)出現(xiàn)不少提供AI換臉視頻制作服務(wù)的商家。消費(fèi)者只需花費(fèi)幾元到十幾元不等,就能定制一部換臉視頻,換臉對(duì)象可以是普通女性,也可以是女網(wǎng)紅、女明星。法律界人士指出,這些被明碼標(biāo)價(jià)的照片和視頻嚴(yán)重?fù)p害了受害者的肖像權(quán)益和人格尊嚴(yán),亟待加強(qiáng)清理。
近兩年,利用AI造謠事件層出不窮,嚴(yán)重威脅網(wǎng)絡(luò)安全。
2025-11-04 13:43:55AI生成謠言印尼和馬來西亞近日相繼宣布暫時(shí)封禁美國企業(yè)家埃隆·馬斯克旗下的人工智能聊天機(jī)器人“格羅克(Grok)”,原因是擔(dān)心它被用于生成色情內(nèi)容
2026-01-13 14:39:53馬斯克旗下AI闖禍近期,接網(wǎng)民舉報(bào),各類珠峰安裝電梯等AI生成式的虛假信息在網(wǎng)上頻繁出現(xiàn)。
2025-11-27 10:55:00珠峰裝電梯