繼演員溫崢嶸刷到自己同時(shí)現(xiàn)身多個(gè)直播間帶貨后，近日，演員王麗云緊急辟謠自己錄制生日祝福視頻進(jìn)行商業(yè)推廣，再次引發(fā)人們對(duì)AI技術(shù)濫用的關(guān)注。事實(shí)上，類似案例并不鮮見(jiàn)，央視主持人李梓萌、奧運(yùn)冠軍全紅嬋、北京協(xié)和醫(yī)院于康教授等公眾人物形象、聲音都曾被克隆盜用。

為什么AI仿冒公眾人物直播帶貨如此猖獗？從技術(shù)層面看，AI生成應(yīng)用的廣泛普及，讓深度偽造內(nèi)容的成本大幅下降，只需幾張照片、一段文案，就能生成仿真度極高的視頻內(nèi)容。從收益層面看，借助公眾人物的信譽(yù)背書實(shí)現(xiàn)內(nèi)容破圈，單場(chǎng)直播帶貨銷售額便可能突破十萬(wàn)甚至百萬(wàn)，越來(lái)越多人在利益誘惑下鋌而走險(xiǎn)、趨之若鶩。從平臺(tái)層面講，部分平臺(tái)技術(shù)監(jiān)管能力尚顯薄弱，對(duì)AI生成內(nèi)容缺乏有效的內(nèi)容溯源和真實(shí)性核驗(yàn)機(jī)制，對(duì)直播出現(xiàn)的違法違規(guī)或侵權(quán)內(nèi)容缺乏實(shí)時(shí)、有效的識(shí)別干預(yù)手段，導(dǎo)致處罰往往滯后于危害結(jié)果的擴(kuò)散，客觀上為不法商家提供了可乘之機(jī)。從維權(quán)層面講，被侵權(quán)者普遍面臨“維權(quán)成本高、處置效果差”的困境，溫崢嶸團(tuán)隊(duì)曾在一天內(nèi)集中舉報(bào)50個(gè)假冒賬號(hào)，部分造假賬號(hào)剛被下架就“換殼重生”，令人疲于奔命。

AI仿冒直播帶貨涉嫌虛假宣傳和網(wǎng)絡(luò)侵權(quán)，嚴(yán)重破壞網(wǎng)絡(luò)生態(tài)。對(duì)公眾人物來(lái)說(shuō)，在毫不知情的情況下被冒用身份帶貨，不僅個(gè)人形象無(wú)端受損，更可能因帶貨產(chǎn)品質(zhì)量問(wèn)題無(wú)辜“躺槍”。比如，不法商家仿冒全紅嬋形象帶貨土特產(chǎn)，售出發(fā)霉、結(jié)塊蜂蜜，使其陷入“人在家中坐、禍從天上來(lái)”的輿論困境。對(duì)網(wǎng)絡(luò)消費(fèi)者來(lái)說(shuō)，基于名人背書購(gòu)買直播產(chǎn)品，實(shí)際商品與宣傳內(nèi)容相差甚遠(yuǎn)，產(chǎn)品質(zhì)量無(wú)法保障，可能面臨退款困難或維權(quán)無(wú)門，遭受直接經(jīng)濟(jì)損失。比如，仿冒李梓萌形象推銷普通魚油糖果，宣稱能夠治療頭暈手麻，實(shí)則毫無(wú)醫(yī)療功效，商家卻以使用不當(dāng)為由拒絕退貨。