知名演員自曝遭遇“AI換臉”,被用于理財推廣視頻,甚至親屬都難以辨別真?zhèn)?。隨后,多家藝人工作室發(fā)聲,表明維權(quán)立場。深度偽造技術(shù)引發(fā)的侵權(quán)事件頻頻進(jìn)入公眾視野。近日,有報料稱,“AI換臉”服務(wù)已在電商平臺悄然出現(xiàn)。
在多個主流社交與電商渠道中,提供AI視頻生成、數(shù)字人定制服務(wù)的店鋪不少,許多店鋪顯示已售數(shù)量達(dá)到數(shù)千單。隨機(jī)選擇六家店鋪進(jìn)行暗訪時,明確提出希望使用明星肖像制作視頻的需求。三家店鋪直接拒絕接單;一家僅確認(rèn)視頻不用于商業(yè)用途后同意制作;另外兩家未要求任何授權(quán)文件,也未核實具體使用場景與用途,便直接同意制作,并引導(dǎo)脫離平臺,改用其他聊天軟件對接后續(xù)事宜。商談過程中,一名商家表示,視頻可以完成任意動作替換、精準(zhǔn)口型對齊,最終成品清晰度高、痕跡極淺。這樣的定制服務(wù)價格不菲,一分鐘左右的“AI換肉”視頻收費(fèi)普遍在300元到400元之間,貴的可以達(dá)到800元。
這些愿意提供“AI換臉”服務(wù)的商家并未在商品名稱和詳情頁面寫明可以提供此類服務(wù),但在客戶提出要求后仍然提供了超范圍且可能產(chǎn)生法律風(fēng)險的服務(wù)。電商平臺客服建議舉報這些可能會與用戶進(jìn)行違禁商品交易的商家,并發(fā)送了舉報中心鏈接。記者提交了相關(guān)聊天記錄,平臺建議將相關(guān)內(nèi)容作為證據(jù)進(jìn)行舉報。
測試主流視頻AI軟件時,直接輸入包含明星姓名的提示詞被攔截,但通過上傳明星圖片的方式成功繞過檢測,生成了“AI換臉”視頻。導(dǎo)出視頻時,還能去除AI水印并支持對口型功能。
如何辨別“AI換臉”與真實拍攝內(nèi)容已成為公眾關(guān)注的新焦點。浙江傳媒學(xué)院新聞與傳播學(xué)院人工智能新聞微專業(yè)負(fù)責(zé)人王翎子認(rèn)為,當(dāng)前技術(shù)水平下,即便是專業(yè)人士也難以準(zhǔn)確區(qū)分兩者。新一代視頻生成大模型在動作連貫性、口型對齊精度、表情自然度等方面已達(dá)到高度擬真水平。操作熟練的情況下,整個生成過程僅需幾分鐘。盡管主流AI平臺已開始限制真人面部圖像的生成,但技術(shù)規(guī)避手段依然存在,并在網(wǎng)絡(luò)上廣泛傳播,使得“AI換臉”難以被完全阻斷。