近日，央視曝光了一則引發(fā)廣泛關注的新聞——在多個購物平臺上，花費幾十元就能輕松定制一段“AI合成帶貨視頻”。這種技術看似高端復雜，實際上早已悄然流入普通市場，甚至形成了一條灰色產(chǎn)業(yè)鏈。

花58元就能買到AI合成帶貨視頻 央視起底購物平臺定制AI合成視頻，帶貨視頻可“定制”

聲音、臉部皆可合成，58元“定制”視頻成現(xiàn)實

據(jù)央視記者調(diào)查，在一些購物平臺上，只需搜索關鍵詞如“聲音克隆”“AI合成”等，就會彈出大量提供相關服務的商家。這些商家公開叫賣AI換聲、換臉服務，價格從幾十元起步，門檻極低，令人震驚。

一位記者親自下單體驗，僅花了58元，便在某網(wǎng)店定制了一段“記者本人”出鏡的帶貨短視頻。整段視頻中，記者的面容和聲音都與本人極為相似，甚至連語氣和神態(tài)都十分逼真，若非當事人知情，很難分辨真假。

商家表示，只需客戶提供一小段語音樣本（大約一分鐘左右）、一張照片或者一段視頻素材，AI技術便可模擬其聲線及面部動作，將任意臺詞“嫁接”到客戶提供的人物形象上。聲音合成的價格通常按照字數(shù)計費，每百字20元到50元不等，而整合成完整視頻則另算價格。

專家：普通人已能“輕松偽造”個人視頻形象

盡管專家指出，目前多數(shù)AI換臉、換聲類軟件仍屬于半專業(yè)工具，操作復雜程度并非人人能掌握。但事實表明，經(jīng)過“包裝”后的服務，已經(jīng)讓門外漢也能簡單上手。尤其是在商家的“模板化操作”下，只需提交素材，其余的由技術方一鍵生成，完全不需要使用者具備任何技術背景。

央視記者也指出，這類AI合成服務正在快速普及，成為不少“短視頻帶貨”商家的“隱形工具”。許多店鋪甚至將AI主播打造成全天候不間斷直播的人設，通過循環(huán)播放錄制好的AI視頻，節(jié)省了高昂的人工成本，同時還能“量產(chǎn)”帶貨內(nèi)容。

真假難辨，法律風險令人擔憂

AI合成視頻之所以引發(fā)擔憂，除了技術本身的突破，更關鍵在于其對真實身份與內(nèi)容的混淆所帶來的潛在風險。一旦被用于非法用途，如詐騙、誹謗、輿論操控等后果，將非常嚴重。

一位法律人士指出，AI換臉換聲一旦未經(jīng)本人授權使用，不僅涉嫌侵犯肖像權、姓名權，還可能觸犯《民法典》中對人格權保護的相關條款。尤其在商業(yè)場景下，擅自使用他人面容與聲音牟利，構成侵權的風險極高。

目前我國尚未形成針對AI合成視頻的系統(tǒng)性立法，但有關部門已多次發(fā)出警示信號。例如，2023年出臺的“生成式人工智能服務管理暫行辦法”中，就明確規(guī)定不得利用AI技術制作虛假信息、誤導公眾，更不得損害他人合法權益。

然而，面對技術的迅猛發(fā)展，現(xiàn)有法律框架仍顯滯后。AI換臉、換聲的泛濫，給個人信息安全、輿論生態(tài)乃至公共秩序都帶來了新的挑戰(zhàn)。

誰在用？誰在賣？灰色市場悄然成型

這類服務的提供者主要分為兩類：一類是以小型技術工作室為主，通過接單盈利，服務內(nèi)容包括AI換聲、換臉、合成廣告等；另一類則是一些“平臺型商家”，在多個電商平臺開設店鋪，承接各類“定制視頻”業(yè)務，甚至形成標準報價和服務模板。

而下單者也多種多樣。有自媒體從業(yè)者、短視頻內(nèi)容生產(chǎn)者，也有電商平臺賣家，甚至不乏有人用于私人娛樂或“惡搞”他人。由于行業(yè)缺乏有效監(jiān)管，部分商家甚至明示“可仿任意明星、主播形象”，在暗地里挑戰(zhàn)法律紅線。

一位業(yè)內(nèi)人士坦言，部分AI合成技術已經(jīng)達到了“真假難辨”的地步，如果被別有用心者利用，很容易制造混亂甚至引發(fā)刑事案件。“你能看到的樣子、聽到的聲音，都可能是假的?！彼f。

從便利工具到輿論風險，AI視頻的“雙刃劍”效應

AI技術本身并非原罪。從某種角度看，它的出現(xiàn)確實極大提高了內(nèi)容生產(chǎn)效率，特別是在短視頻、在線客服、虛擬主播等領域，已具備廣泛應用價值。然而，當它被用來模仿、篡改甚至偽造真人形象時，風險也隨之暴露。

尤其是在直播電商領域，消費者原本信任的“主播”是否真的存在？推薦產(chǎn)品的“意見領袖”是否真實體驗過商品？AI的介入模糊了界限，也削弱了信任。

專家指出，在技術與商業(yè)的交匯點上，迫切需要監(jiān)管跟上速度，建立起完善的規(guī)則體系，既鼓勵創(chuàng)新，又防范濫用。同時，平臺方、服務商和使用者也應自覺守法，不越“紅線”。

看似玩笑，實則隱患重重

從58元就能定制一個“虛擬自己”的視頻，到廣泛存在的聲音克隆與AI換臉業(yè)務，一場新的信息安全挑戰(zhàn)正在悄然展開。這不僅是技術的炫技，更是對社會倫理、個人隱私和法律邊界的深度考驗。

在AI不斷滲透進日常生活的今天，每個人都可能在不知情的情況下，被“復制”成另一個自己。如何在便利與風險之間找準平衡點，將是技術發(fā)展過程中必須面對的一道現(xiàn)實難題。