演員溫崢嶸在瀏覽短視頻時,意外發(fā)現(xiàn)“自己”正在直播。她在評論區(qū)提出質(zhì)疑后,被拉黑并踢出直播間,而對方仍在用“她的臉”直播帶貨。
溫崢嶸近期遭遇的“冒牌直播”事件,是AI換臉技術(shù)濫用的典型例子。11月14日,中央網(wǎng)信辦官方賬號發(fā)文表示,有網(wǎng)絡(luò)賬號利用AI技術(shù)仿冒公眾人物形象,在直播、短視頻等環(huán)節(jié)發(fā)布營銷信息,誤導(dǎo)網(wǎng)民,涉嫌虛假宣傳和網(wǎng)絡(luò)侵權(quán),嚴(yán)重破壞網(wǎng)絡(luò)生態(tài),造成不良影響。網(wǎng)信部門嚴(yán)厲處置一批違法違規(guī)網(wǎng)絡(luò)賬號,并督促網(wǎng)站平臺發(fā)布治理公告,開展集中清理整治。目前已累計清理相關(guān)違規(guī)信息8700余條,處置仿冒公眾人物賬號1.1萬余個。
記者調(diào)查發(fā)現(xiàn),AI換臉與聲音克隆的教程及服務(wù)在網(wǎng)絡(luò)平臺流通。雖然平臺會彈出官方提示,提醒用戶使用需合法合規(guī)、注意辨別,但相關(guān)內(nèi)容仍在網(wǎng)絡(luò)空間大量存在。例如,有相當(dāng)數(shù)量以“AI科普”為標(biāo)簽的賬號在各平臺公開分享換臉教程。這些視頻通常詳細列出可訪問的網(wǎng)站地址,逐步演示操作流程,并附有技術(shù)細節(jié)說明,如建議用戶盡量保證替換素材與原素材的人物尺寸一致、畫面干凈無遮擋,以保證生成效果。
根據(jù)教程指引,記者登錄相關(guān)網(wǎng)站驗證發(fā)現(xiàn),部分平臺確實免費提供AI換臉或聲音制作服務(wù),支付幾十元購買會員后,還能解鎖去水印、高清放大等進階功能。除公開教程外,更為隱蔽的交易正通過網(wǎng)盤渠道進行。有一些打包出售的“完整教程”價格低至8元,且賣家聲稱沒有市面主流軟件那么多限制。這類教程通常包括云端工作流地址資料和詳細的操作說明,以及圖片去AI化、舞蹈動作模仿、人臉精修等擴展功能與相關(guān)的提示詞教學(xué)。