AI換臉擬聲風險怎么應對治理挑戰(zhàn)與對策

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-03-12 10:41:12 臺海網

AI換臉擬聲風險怎么應對治理挑戰(zhàn)與對策！“AI換臉擬聲”亂象頻現(xiàn)，引發(fā)社會廣泛關注。一些不法分子利用這一技術實施詐騙，讓演藝界人士、專家學者、知名企業(yè)家等公眾人物深受其擾。

全國政協(xié)委員、中國煤礦文工團團長靳東在政協(xié)小組討論上表示，AI換臉視頻給喜歡他作品的觀眾帶來了很大困擾，希望建立更好的規(guī)則來應對這種犯罪行為。同樣，全國人大代表、小米集團創(chuàng)始人雷軍也提到自己是“AI換臉擬聲”的受害者。去年國慶長假期間，短視頻平臺上出現(xiàn)了大量“雷軍AI配音”的惡搞視頻，不少網友因此感到困惑。雷軍指出，“AI換臉擬聲”濫用導致侵犯肖像權、個人信息罪及詐騙等犯罪行為頻發(fā)，甚至造成大規(guī)模形象和聲譽損害。他建議加快單行法立法進程，強化行業(yè)自律共治，并加大普法宣傳力度。

全國人大代表、TCL創(chuàng)始人李東生建議加快出臺人工智能深度合成內容標識管理規(guī)章制度，明確懲罰制度，并加強國際合作，有效監(jiān)管人工智能生成、合成內容。

隨著AI技術的發(fā)展，“AI換臉擬聲”操作變得愈發(fā)簡單。只需獲取照片和聲音等個人信息，就能以假亂真。記者嘗試使用某款AI換臉軟件后發(fā)現(xiàn)，短短幾分鐘內便能生成一段具有較高相似度的換臉視頻。類似地，聲音合成功能也能快速生成模仿目標人物的聲音。這些技術被不法分子利用，在網絡上制造出各種違法亂象，從假冒名人誘導中老年人轉賬到偽裝單位領導要求匯款，甚至有線上游戲平臺利用AI技術制作帶有賭博性質的代言宣傳片。

福州大學計算機與大數據學院博士生肖博懷表示，GitHub等開源平臺上存在大量AI換臉、語音合成的開源代碼與工具，大大降低了技術使用門檻。盡管這些資源方便了合法創(chuàng)新探索，但也使得惡意利用技術變得輕而易舉。此外，用戶在網絡注冊時風險意識薄弱，隨意填寫真實姓名、身份證號等關鍵信息，進一步加劇了問題的嚴重性。

12 全文共 2 頁下一頁

關閉

AI換臉擬聲風險怎么應對 治理挑戰(zhàn)與對策

相關新聞

今日熱點

頻道熱點

AI換臉擬聲風險怎么應對治理挑戰(zhàn)與對策