演員溫崢嶸在瀏覽短視頻時(shí)，意外發(fā)現(xiàn)“自己”正在直播。她在評論區(qū)提出質(zhì)疑后，被拉黑并踢出直播間，而對方仍在用她的臉進(jìn)行直播帶貨。近期，溫崢嶸遭遇的“冒牌直播”事件是AI換臉技術(shù)濫用的一個(gè)典型例子。多個(gè)直播間出現(xiàn)冒用溫崢嶸形象的AI換臉帶貨行為，其團(tuán)隊(duì)每天舉報(bào)約50個(gè)假冒賬號(hào)并發(fā)出律師函，但造假賬號(hào)仍屢禁不止，令她陷入“很難證明我是我”的困境。

這一現(xiàn)象并非孤例。調(diào)查發(fā)現(xiàn)，AI換臉與聲音克隆技術(shù)已形成一條涵蓋教程傳播與定制服務(wù)的灰色產(chǎn)業(yè)鏈，對個(gè)人權(quán)益、平臺(tái)監(jiān)管等構(gòu)成嚴(yán)重威脅。例如，主持人李梓萌的AI偽造形象出現(xiàn)在直播間，虛假宣傳深海魚油“能治病”；奧運(yùn)冠軍全紅嬋的聲音被AI克隆，用于售賣土雞蛋；醫(yī)生張文宏被換臉，其形象被用于在直播間售賣某款蛋白棒產(chǎn)品，銷量已過千。

中央網(wǎng)信辦官方賬號(hào)發(fā)文表示，有網(wǎng)絡(luò)賬號(hào)利用AI技術(shù)仿冒公眾人物形象，在直播、短視頻等環(huán)節(jié)發(fā)布營銷信息，誤導(dǎo)網(wǎng)民，涉嫌虛假宣傳和網(wǎng)絡(luò)侵權(quán)，嚴(yán)重破壞網(wǎng)絡(luò)生態(tài)，造成不良影響。網(wǎng)信部門嚴(yán)厲處置一批違法違規(guī)網(wǎng)絡(luò)賬號(hào)，并督促網(wǎng)站平臺(tái)發(fā)布治理公告，開展集中清理整治，目前已累計(jì)清理相關(guān)違規(guī)信息8700余條，處置仿冒公眾人物賬號(hào)1.1萬余個(gè)。

AI換臉技術(shù)的濫用甚至延伸至刑事犯罪領(lǐng)域。2024年10月，江蘇省南京市玄武區(qū)人民法院審理的一起案件中，被告人符某非法獲取195萬條公民個(gè)人信息，利用AI換臉軟件生成動(dòng)態(tài)人臉視頻，成功突破某金融支付平臺(tái)的人臉識(shí)別認(rèn)證系統(tǒng)，盜刷銀行卡進(jìn)行消費(fèi)。法院以侵犯公民個(gè)人信息罪、信用卡詐騙罪數(shù)罪并罰，判處符某有期徒刑4年6個(gè)月。同年，內(nèi)蒙古鄂爾多斯一名消費(fèi)者險(xiǎn)些因AI換臉詐騙損失40余萬元，幸虧警方及時(shí)介入，未造成實(shí)際損失。

記者調(diào)查發(fā)現(xiàn)，AI換臉與聲音克隆的教程及服務(wù)在網(wǎng)絡(luò)平臺(tái)流通。盡管平臺(tái)會(huì)彈出官方提示，提醒用戶使用需合法合規(guī)，相關(guān)內(nèi)容仍在網(wǎng)絡(luò)空間大量存在。有些以“AI科普”為標(biāo)簽的賬號(hào)公開分享換臉教程，詳細(xì)列出可訪問的網(wǎng)站地址，逐步演示操作流程，并附有技術(shù)細(xì)節(jié)說明。部分平臺(tái)免費(fèi)提供AI換臉或聲音制作服務(wù)，支付幾十元購買會(huì)員后還能解鎖去水印、高清放大等進(jìn)階功能。

除公開教程外，更為隱蔽的交易正通過網(wǎng)盤渠道進(jìn)行。一些打包出售的“完整教程”價(jià)格低至8元，賣家聲稱“沒有市面主流軟件那么多限制”。這類教程通常包括云端工作流地址資料和詳細(xì)的操作說明，以及圖片去AI化、舞蹈動(dòng)作模仿、人臉精修等擴(kuò)展功能與相關(guān)的提示詞教學(xué)。聲音克隆類的教程售價(jià)低至9.9元，并在宣傳中強(qiáng)調(diào)“支持任何形象和聲音”。

為驗(yàn)證此類教程的實(shí)際應(yīng)用效果，記者購買了一份標(biāo)價(jià)8元的換臉教程。該教程包含一段5分鐘的視頻教程和兩份文字材料，明確提供了平臺(tái)訪問鏈接、新用戶福利信息和操作步驟，并特別注明“對敏感詞限制極少”“生成內(nèi)容無水印”。記者實(shí)測使用一段時(shí)長5秒的視頻進(jìn)行換裝操作，約3分鐘后成功生成視頻，畫面中人物動(dòng)作與神態(tài)還原度很高，被遮擋部位的服裝貼合效果也較為自然、精準(zhǔn)。

電商平臺(tái)上，有商家為AI換臉服務(wù)披上偽裝售賣。記者在購物平臺(tái)搜索“AI換臉”，顯示無任何結(jié)果，但部分商家會(huì)在商品詳情頁用表情符號(hào)隱喻其能提供換臉“服務(wù)”；也有商家以“啥都能做”“不限視頻內(nèi)容，懂的都懂”為宣傳語，暗示私聊客服了解商品詳情。記者了解到，10秒換臉視頻報(bào)價(jià)從15元至300元不等，多數(shù)商家僅核查素材內(nèi)容，對用途與來源未作甄別。

為深入了解AI工具自身的內(nèi)容審核機(jī)制，記者對用戶使用較多的10款文生圖、文生視頻AI工具進(jìn)行實(shí)測，以對明星“一鍵變臉”等指令測試其技術(shù)邊界與審核能力。結(jié)果顯示，僅一款A(yù)I工具明確拒絕生成真實(shí)公眾人物虛擬圖像。部分應(yīng)用在簡單操作后即可生成高度逼真的明星虛假內(nèi)容。值得注意的是，部分AI工具在首次接收到涉及真實(shí)人物的指令時(shí)會(huì)予以拒絕，但通過選擇平臺(tái)的替代選項(xiàng)或更換表述，用戶仍可繞過初始限制，實(shí)現(xiàn)圖片或視頻生成。

有平臺(tái)方公開回應(yīng)稱，AI內(nèi)容侵權(quán)識(shí)別屬于行業(yè)性技術(shù)難題，惡意仿冒賬號(hào)在持續(xù)與平臺(tái)進(jìn)行技術(shù)對抗，未來會(huì)持續(xù)加大技術(shù)投入，積極應(yīng)對挑戰(zhàn)，維護(hù)創(chuàng)作者、商家及消費(fèi)者的合法權(quán)益。