电竞下注-中国电竞赛事及体育赛事平台

當前位置：新聞 > 熱點新聞 > 正文

AI仿冒名人帶貨屬違法行為 消費者可要求退一賠三(2)

2024-12-23 07:43:53 來源：央視新聞 A+A-

上海市消保委也注意到了最近日益增加的AI假冒名人的視頻。

上海市消費者權益保護委員會副秘書長唐健盛：我們關注到現在這種虛擬人直播帶貨的情況，也是越來越多了。有不法商家通過AI手段去冒用張文宏老師的形象和聲音，做的假的直播帶貨，這種行為我們覺得是對消費者合法權的侵害，因為它就是一個赤裸裸的欺詐消費者行為。

AI模仿他人技術成熟可輕松克隆臉和聲音

現在的AI技術在克隆他人面部和聲音上，到底發(fā)展到了什么程度？專家介紹，目前模仿他人的聲音和臉的技術已經非常成熟，提供一張照片就能做出換臉的效果，他人的聲音也能被輕易模仿。

中國網絡空間安全協會人工智能安全治理專業(yè)委員會專家薛智慧：通過人工智能技術，將臉進行替換。聲音需要有一個語言的模型，語言模型里邊被模仿者的聲音進行合成，實現音色的克隆。

技術人員現場做了一個測試，將事先錄制好的視頻換成記者的臉和聲音。首先記者給技術人員提供了一張證件照片，不到兩分鐘，通過軟件的渲染，視頻的人臉就換成了記者的臉。

隨后是聲音的AI制作。記者現場錄制了一段聲音輸入到AI資料庫中，很快AI就能用記者的聲音播報任何的文本內容。

AI制作的換臉和聲音的視頻完成后，將兩段視頻合成后出來的效果非常逼真。

AI模仿度高但并非毫無破綻

專家表示，AI模仿度高但是并非毫無破綻。

首先，這種既要換臉又要換聲的操作，只能制作視頻，無法做到實時直播。

推薦閱讀

24小時熱點