在短視頻平臺(tái)或直播平臺(tái)上購物已成為許多人的新選擇。刷視頻時(shí)，常會(huì)看到一些“明星”用流利的鄉(xiāng)音推銷農(nóng)產(chǎn)品，甚至進(jìn)行直播帶貨。然而，這些所謂的“明星”很可能是仿冒的。近段時(shí)間，網(wǎng)絡(luò)上一些商家利用AI技術(shù)仿冒帶貨，有的借助名人效應(yīng)，仿冒專家學(xué)者、奧運(yùn)冠軍、影視明星；也有的借助產(chǎn)地效應(yīng)，冒充知名品牌。消費(fèi)者和粉絲難以辨別真?zhèn)?，慕名下單，卻不知道自己被蒙騙了。這些游走在灰色地帶的“AI李鬼”，正考驗(yàn)著我們的數(shù)字治理能力。

近期，在一些手機(jī)平臺(tái)的網(wǎng)絡(luò)直播間，打著樟樹港辣椒旗號(hào)的種子成為主播推銷的重點(diǎn)。直播間銷售人氣旺盛，不時(shí)有人咨詢或下單購買。湖南岳陽的樟樹港辣椒屬國家地理標(biāo)志農(nóng)產(chǎn)品，有400多年的種植歷史，因量少質(zhì)優(yōu)，特級(jí)產(chǎn)品可賣到300元一斤。然而，記者在直播間看到的畫面中展示的辣椒成串垂掛，產(chǎn)量奇高。當(dāng)記者詢問辣椒種子是否保真，種出來有沒有這么大時(shí)，主播紛紛表示所見即所得。奇怪的是，背景視頻中出現(xiàn)了農(nóng)戶站在快要沒過膝蓋的深水中采摘辣椒的場(chǎng)景，這顯然不符合常理，類似畫面在其他直播間也有出現(xiàn)。當(dāng)記者追問這些場(chǎng)景是不是AI生成的時(shí)，主播并沒有正面回應(yīng)。

為了解情況，記者找到了相關(guān)技術(shù)專家。奇安信集團(tuán)副總裁劉浩表示，畫面中的女士拿了辣椒后退，甚至她整個(gè)腿部下半身和辣椒叢融為一體，這是典型的AI生成視頻中容易出現(xiàn)的紕漏。物理規(guī)律包括空間距離、比例、阻擋、遮擋、光線等，但大模型還不具備理解這些規(guī)律的能力。技術(shù)專家還指出，像直播間無人機(jī)噴灑農(nóng)藥的片段，水霧的形態(tài)呈現(xiàn)規(guī)則的三角形，而不是自然的霧化狀態(tài)，這些都是技術(shù)上的漏洞。

隨后，記者來到湖南岳陽樟樹港辣椒的產(chǎn)地進(jìn)一步求證。當(dāng)?shù)馗呒?jí)農(nóng)藝師黃源表示，樟樹港辣椒植株矮小，而視頻中的辣椒植株有一人多高，花和葉片都不是辣椒的特征。此外，視頻中的辣椒產(chǎn)量每畝可能超過6000斤，而實(shí)際樟樹港辣椒的產(chǎn)量每畝只有兩到三千斤。

法律專家指出，利用AI制作不符合現(xiàn)實(shí)或不存在的商品內(nèi)容，甚至冒用品牌進(jìn)行牟利，涉嫌民事侵權(quán)甚至刑事犯罪。中國法學(xué)會(huì)消費(fèi)者權(quán)益保護(hù)法研究會(huì)副秘書長陳音江表示，這種行為涉嫌侵犯消費(fèi)者的知情權(quán)和選擇權(quán)。經(jīng)營者在推薦商品和服務(wù)信息時(shí)要做到真實(shí)、準(zhǔn)確、全面。如果故意通過AI視頻或圖片欺騙消費(fèi)者，可能會(huì)構(gòu)成欺詐。中國社會(huì)科學(xué)院法學(xué)研究所研究員支振鋒認(rèn)為，這種行為還可能構(gòu)成對(duì)市場(chǎng)秩序的破壞，對(duì)于原產(chǎn)地的正牌樟樹港辣椒來說，構(gòu)成了民事上的侵權(quán)，情節(jié)嚴(yán)重的話還可能構(gòu)成刑法上的犯罪。銷售種子的行為還可能違反《中華人民共和國種子法》的規(guī)定。

事實(shí)上，除了利用AI技術(shù)仿冒知名產(chǎn)品和馳名品牌帶貨，不法商家還利用AI技術(shù)仿冒名人非法牟利，一些專家學(xué)者、奧運(yùn)冠軍、影視明星等公眾人物成為“被代言”的對(duì)象。例如，北京大學(xué)國家發(fā)展研究院李玲教授的采訪視頻被篡改為一段虛假的推銷視頻在網(wǎng)絡(luò)上傳播。李玲教授公開發(fā)表聲明稱，網(wǎng)上出現(xiàn)了大量假冒她推銷醫(yī)藥書籍和治療手段的虛假視頻，大多是人工智能AI合成，她從未在任何平臺(tái)推銷過醫(yī)藥書籍和醫(yī)療產(chǎn)品，提醒大家不要上當(dāng)受騙。

然而，普通大眾很難分辨?zhèn)鞑?nèi)容是否是AI仿冒的，不少人因此上當(dāng)受騙。記者在銷售評(píng)論區(qū)看到，有不少購買者對(duì)產(chǎn)品質(zhì)量提出質(zhì)疑，有的提出產(chǎn)品并非公眾人物本人帶貨，有的甚至直呼上當(dāng)受騙。

今年9月1日，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式施行，明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”，需要添加顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。平臺(tái)在服務(wù)提供者的內(nèi)容上架或上線時(shí)要進(jìn)行審核，核驗(yàn)生成合成內(nèi)容標(biāo)識(shí)，對(duì)未標(biāo)識(shí)或疑似生成內(nèi)容要添加風(fēng)險(xiǎn)提示，力求在傳播端阻斷虛假信息的擴(kuò)散。盡管各大網(wǎng)絡(luò)平臺(tái)普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng)，要求對(duì)AI生成作品添加標(biāo)注，但仍有一些人采用多種手段繞過審核。

隨著AI技術(shù)的迅猛發(fā)展和生成式人工智能的快速迭代，各種紛雜的人工智能生成信息讓人眼花繚亂，有時(shí)難辨真假，這也給監(jiān)管部門和平臺(tái)治理提出了新的挑戰(zhàn)。技術(shù)上的迭代升級(jí)也讓這些仿冒內(nèi)容的防范難度更大。過去需要一定技術(shù)門檻和成本投入的深度偽造，在AI大模型的助力下，不再需要長時(shí)間的深度學(xué)習(xí)和數(shù)據(jù)訓(xùn)練，就能在幾分鐘內(nèi)生成逼真的仿冒內(nèi)容。

平臺(tái)應(yīng)當(dāng)扛起責(zé)任，進(jìn)一步升級(jí)AI識(shí)別技術(shù)，用數(shù)字水印、區(qū)塊鏈存證等手段增強(qiáng)鑒偽追溯能力，避免AI仿冒虛假信息進(jìn)入傳播平臺(tái)。法律法規(guī)也需細(xì)化，進(jìn)一步明晰標(biāo)識(shí)規(guī)范、回溯機(jī)制、追責(zé)機(jī)制。技術(shù)開發(fā)者和使用者更應(yīng)該守住“科技向善”的底線，不把商業(yè)利益凌駕于社會(huì)責(zé)任之上。AI仿冒帶貨不僅侵犯了被仿冒人士和品牌的權(quán)利，也存在欺詐嫌疑，更觸動(dòng)了數(shù)字社會(huì)賴以存續(xù)的信任根基。作為消費(fèi)者，我們自己當(dāng)然要盡可能擦亮眼睛去甄別，對(duì)所謂“傾情奉獻(xiàn)”的“明星代言”保持理性判斷，避免掉進(jìn)消費(fèi)陷阱。但是靠普通消費(fèi)者的識(shí)別能力來防偽是遠(yuǎn)遠(yuǎn)不夠的，更需要平臺(tái)和相關(guān)部門扛起把關(guān)的責(zé)任，通過技術(shù)手段和治理能力的提升，用系統(tǒng)性力量，守好“真”的邊界。唯有全社會(huì)形成共同抵制AI欺詐的合力，才能以“科技”之筆，繪就“向善”未來。