記者調(diào)查AI換臉技術(shù)濫用亂象冒牌直播引發(fā)關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-11-24 13:54:46 百家號(hào)

演員溫崢嶸在瀏覽短視頻時(shí)，意外發(fā)現(xiàn)“自己”正在直播。她在評(píng)論區(qū)提出質(zhì)疑后，被拉黑并踢出直播間，而對(duì)方仍在用“她的臉”直播帶貨。

溫崢嶸近期遭遇的“冒牌直播”事件，是AI換臉技術(shù)濫用的典型例子。11月14日，中央網(wǎng)信辦官方賬號(hào)發(fā)文表示，有網(wǎng)絡(luò)賬號(hào)利用AI技術(shù)仿冒公眾人物形象，在直播、短視頻等環(huán)節(jié)發(fā)布營銷信息，誤導(dǎo)網(wǎng)民，涉嫌虛假宣傳和網(wǎng)絡(luò)侵權(quán)，嚴(yán)重破壞網(wǎng)絡(luò)生態(tài)，造成不良影響。網(wǎng)信部門嚴(yán)厲處置一批違法違規(guī)網(wǎng)絡(luò)賬號(hào)，并督促網(wǎng)站平臺(tái)發(fā)布治理公告，開展集中清理整治。目前已累計(jì)清理相關(guān)違規(guī)信息8700余條，處置仿冒公眾人物賬號(hào)1.1萬余個(gè)。

記者調(diào)查發(fā)現(xiàn)，AI換臉與聲音克隆的教程及服務(wù)在網(wǎng)絡(luò)平臺(tái)流通。雖然平臺(tái)會(huì)彈出官方提示，提醒用戶使用需合法合規(guī)、注意辨別，但相關(guān)內(nèi)容仍在網(wǎng)絡(luò)空間大量存在。例如，有相當(dāng)數(shù)量以“AI科普”為標(biāo)簽的賬號(hào)在各平臺(tái)公開分享換臉教程。這些視頻通常詳細(xì)列出可訪問的網(wǎng)站地址，逐步演示操作流程，并附有技術(shù)細(xì)節(jié)說明，如建議用戶盡量保證替換素材與原素材的人物尺寸一致、畫面干凈無遮擋，以保證生成效果。

根據(jù)教程指引，記者登錄相關(guān)網(wǎng)站驗(yàn)證發(fā)現(xiàn)，部分平臺(tái)確實(shí)免費(fèi)提供AI換臉或聲音制作服務(wù)，支付幾十元購買會(huì)員后，還能解鎖去水印、高清放大等進(jìn)階功能。除公開教程外，更為隱蔽的交易正通過網(wǎng)盤渠道進(jìn)行。有一些打包出售的“完整教程”價(jià)格低至8元，且賣家聲稱沒有市面主流軟件那么多限制。這類教程通常包括云端工作流地址資料和詳細(xì)的操作說明，以及圖片去AI化、舞蹈動(dòng)作模仿、人臉精修等擴(kuò)展功能與相關(guān)的提示詞教學(xué)。

12 3 全文共 3 頁下一頁

關(guān)閉

記者調(diào)查AI換臉技術(shù)濫用亂象 冒牌直播引發(fā)關(guān)注

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

記者調(diào)查AI換臉技術(shù)濫用亂象冒牌直播引發(fā)關(guān)注