演員溫崢嶸在瀏覽短視頻時(shí),意外發(fā)現(xiàn)“自己”正在直播。她在評(píng)論區(qū)提出質(zhì)疑后,被拉黑并踢出直播間,而對(duì)方仍在用“她的臉”直播帶貨。
溫崢嶸近期遭遇的“冒牌直播”事件,是AI換臉技術(shù)濫用的典型例子。11月14日,中央網(wǎng)信辦官方賬號(hào)發(fā)文表示,有網(wǎng)絡(luò)賬號(hào)利用AI技術(shù)仿冒公眾人物形象,在直播、短視頻等環(huán)節(jié)發(fā)布營銷信息,誤導(dǎo)網(wǎng)民,涉嫌虛假宣傳和網(wǎng)絡(luò)侵權(quán),嚴(yán)重破壞網(wǎng)絡(luò)生態(tài),造成不良影響。網(wǎng)信部門嚴(yán)厲處置一批違法違規(guī)網(wǎng)絡(luò)賬號(hào),并督促網(wǎng)站平臺(tái)發(fā)布治理公告,開展集中清理整治。目前已累計(jì)清理相關(guān)違規(guī)信息8700余條,處置仿冒公眾人物賬號(hào)1.1萬余個(gè)。
記者調(diào)查發(fā)現(xiàn),AI換臉與聲音克隆的教程及服務(wù)在網(wǎng)絡(luò)平臺(tái)流通。雖然平臺(tái)會(huì)彈出官方提示,提醒用戶使用需合法合規(guī)、注意辨別,但相關(guān)內(nèi)容仍在網(wǎng)絡(luò)空間大量存在。例如,有相當(dāng)數(shù)量以“AI科普”為標(biāo)簽的賬號(hào)在各平臺(tái)公開分享換臉教程。這些視頻通常詳細(xì)列出可訪問的網(wǎng)站地址,逐步演示操作流程,并附有技術(shù)細(xì)節(jié)說明,如建議用戶盡量保證替換素材與原素材的人物尺寸一致、畫面干凈無遮擋,以保證生成效果。
根據(jù)教程指引,記者登錄相關(guān)網(wǎng)站驗(yàn)證發(fā)現(xiàn),部分平臺(tái)確實(shí)免費(fèi)提供AI換臉或聲音制作服務(wù),支付幾十元購買會(huì)員后,還能解鎖去水印、高清放大等進(jìn)階功能。除公開教程外,更為隱蔽的交易正通過網(wǎng)盤渠道進(jìn)行。有一些打包出售的“完整教程”價(jià)格低至8元,且賣家聲稱沒有市面主流軟件那么多限制。這類教程通常包括云端工作流地址資料和詳細(xì)的操作說明,以及圖片去AI化、舞蹈動(dòng)作模仿、人臉精修等擴(kuò)展功能與相關(guān)的提示詞教學(xué)。