近日，北京市市場(chǎng)監(jiān)管部門通報(bào)了一起全國首例利用人工智能技術(shù)制作虛假廣告的典型案件。涉事企業(yè)通過AI偽造央視主持人形象，在線上直播平臺(tái)宣傳其產(chǎn)品具有“治療功效”，誤導(dǎo)消費(fèi)者，最終被依法查處。

事件起因可追溯至今年2月，北京市海淀區(qū)市場(chǎng)監(jiān)管局接到消費(fèi)者舉報(bào)，稱某公司在視頻賬號(hào)上宣傳其銷售的“深海多烯魚油”產(chǎn)品，宣稱能夠緩解頭暈、手麻腳麻、記憶力下降等癥狀，疑似存在虛假醫(yī)療宣傳。執(zhí)法人員隨即根據(jù)舉報(bào)提供的線索展開調(diào)查。

在核查過程中，辦案人員進(jìn)入該企業(yè)運(yùn)營的直播間發(fā)現(xiàn)，該賬號(hào)粉絲數(shù)量高達(dá)88萬，直播間背景板上用醒目的字體標(biāo)注著“適合頭暈頭痛、手麻腳麻、記憶力減退人群”等字樣。更令人驚訝的是，直播視頻中竟出現(xiàn)了中央廣播電視總臺(tái)主持人李梓萌的身影，似乎在“為產(chǎn)品代言”。

經(jīng)過進(jìn)一步取證，執(zhí)法人員發(fā)現(xiàn)所謂的“主持人形象”并非真人參與，而是利用AI換臉與語音合成技術(shù)偽造生成的虛假人物影像。視頻通過高仿真合成手段，模擬了主持人的聲音、口型與表情，極具欺騙性。許多消費(fèi)者因此誤以為該產(chǎn)品獲得權(quán)威媒體背書，從而下單購買。

經(jīng)查，該公司銷售的“深海多烯魚油”并非藥品或保健食品，而是執(zhí)行標(biāo)準(zhǔn)為“糖果”的普通食品，不具備任何疾病治療或預(yù)防作用。其通過直播間散布“能治頭暈”“改善記憶”等功能性宣傳，嚴(yán)重違反《廣告法》和《反不正當(dāng)競(jìng)爭(zhēng)法》相關(guān)規(guī)定。

最終，海淀區(qū)市場(chǎng)監(jiān)管局依法對(duì)該公司作出行政處罰，責(zé)令其停止違法行為，刪除相關(guān)虛假廣告內(nèi)容，并處以罰款。同時(shí)，監(jiān)管部門已將案件線索移交相關(guān)網(wǎng)絡(luò)平臺(tái)，督促其加強(qiáng)對(duì)AI生成內(nèi)容的廣告審核與管理。

據(jù)悉，這是北京市查處的首起利用人工智能技術(shù)制造虛假宣傳的案件，也是全國范圍內(nèi)AI營銷領(lǐng)域的重要警示案例。辦案人員指出，隨著AI換臉、語音合成等技術(shù)的普及，虛假廣告的“偽裝度”越來越高，監(jiān)管難度隨之增加。此次案件的查處，不僅揭示了AI濫用在廣告領(lǐng)域的風(fēng)險(xiǎn)，也為今后監(jiān)管提供了實(shí)踐樣本。

醒消費(fèi)者：
在網(wǎng)絡(luò)購物和直播帶貨中，要警惕所謂“名人代言”“專家推薦”的宣傳噱頭，尤其是涉及疾病治療、健康功效的內(nèi)容，應(yīng)核實(shí)產(chǎn)品資質(zhì)與批準(zhǔn)文號(hào)，避免被夸大宣傳誤導(dǎo)。

此外，監(jiān)管部門也呼吁企業(yè)應(yīng)依法規(guī)范廣告行為，不得利用AI技術(shù)偽造、拼接他人形象從事商業(yè)宣傳。任何以虛假或引人誤解的方式推廣產(chǎn)品的行為，都將面臨法律制裁。

“科技可以造福，也可能被濫用?！卑讣{(diào)查人員表示，這起AI虛假廣告案的曝光，提醒社會(huì)必須建立起技術(shù)與倫理并重的監(jiān)管機(jī)制。未來，北京市場(chǎng)監(jiān)管部門將持續(xù)加大對(duì)AI內(nèi)容的監(jiān)管力度，堅(jiān)決打擊虛假宣傳行為，維護(hù)公平有序的市場(chǎng)環(huán)境。