在短視頻平臺(tái)或直播平臺(tái)上購物已成為許多人的新選擇。刷視頻時(shí),常會(huì)看到一些“明星”用流利的鄉(xiāng)音推銷農(nóng)產(chǎn)品,甚至進(jìn)行直播帶貨。然而,這些所謂的“明星”很可能是仿冒的。近段時(shí)間,網(wǎng)絡(luò)上一些商家利用AI技術(shù)仿冒帶貨,有的借助名人效應(yīng),仿冒專家學(xué)者、奧運(yùn)冠軍、影視明星;也有的借助產(chǎn)地效應(yīng),冒充知名品牌。消費(fèi)者和粉絲難以辨別真?zhèn)危矫聠?,卻不知道自己被蒙騙了。這些游走在灰色地帶的“AI李鬼”,正考驗(yàn)著我們的數(shù)字治理能力。
近期,在一些手機(jī)平臺(tái)的網(wǎng)絡(luò)直播間,打著樟樹港辣椒旗號(hào)的種子成為主播推銷的重點(diǎn)。直播間銷售人氣旺盛,不時(shí)有人咨詢或下單購買。湖南岳陽的樟樹港辣椒屬國家地理標(biāo)志農(nóng)產(chǎn)品,有400多年的種植歷史,因量少質(zhì)優(yōu),特級(jí)產(chǎn)品可賣到300元一斤。然而,記者在直播間看到的畫面中展示的辣椒成串垂掛,產(chǎn)量奇高。當(dāng)記者詢問辣椒種子是否保真,種出來有沒有這么大時(shí),主播紛紛表示所見即所得。奇怪的是,背景視頻中出現(xiàn)了農(nóng)戶站在快要沒過膝蓋的深水中采摘辣椒的場(chǎng)景,這顯然不符合常理,類似畫面在其他直播間也有出現(xiàn)。當(dāng)記者追問這些場(chǎng)景是不是AI生成的時(shí),主播并沒有正面回應(yīng)。
為了解情況,記者找到了相關(guān)技術(shù)專家。奇安信集團(tuán)副總裁劉浩表示,畫面中的女士拿了辣椒后退,甚至她整個(gè)腿部下半身和辣椒叢融為一體,這是典型的AI生成視頻中容易出現(xiàn)的紕漏。物理規(guī)律包括空間距離、比例、阻擋、遮擋、光線等,但大模型還不具備理解這些規(guī)律的能力。技術(shù)專家還指出,像直播間無人機(jī)噴灑農(nóng)藥的片段,水霧的形態(tài)呈現(xiàn)規(guī)則的三角形,而不是自然的霧化狀態(tài),這些都是技術(shù)上的漏洞。
隨后,記者來到湖南岳陽樟樹港辣椒的產(chǎn)地進(jìn)一步求證。當(dāng)?shù)馗呒?jí)農(nóng)藝師黃源表示,樟樹港辣椒植株矮小,而視頻中的辣椒植株有一人多高,花和葉片都不是辣椒的特征。此外,視頻中的辣椒產(chǎn)量每畝可能超過6000斤,而實(shí)際樟樹港辣椒的產(chǎn)量每畝只有兩到三千斤。