近日,北京市市場(chǎng)監(jiān)管部門通報(bào)了一起全國(guó)首例利用人工智能技術(shù)制作虛假?gòu)V告的典型案件。涉事企業(yè)通過AI偽造央視主持人形象,在線上直播平臺(tái)宣傳其產(chǎn)品具有“治療功效”,誤導(dǎo)消費(fèi)者,最終被依法查處。
事件起因可追溯至今年2月,北京市海淀區(qū)市場(chǎng)監(jiān)管局接到消費(fèi)者舉報(bào),稱某公司在視頻賬號(hào)上宣傳其銷售的“深海多烯魚油”產(chǎn)品,宣稱能夠緩解頭暈、手麻腳麻、記憶力下降等癥狀,疑似存在虛假醫(yī)療宣傳。執(zhí)法人員隨即根據(jù)舉報(bào)提供的線索展開調(diào)查。
在核查過程中,辦案人員進(jìn)入該企業(yè)運(yùn)營(yíng)的直播間發(fā)現(xiàn),該賬號(hào)粉絲數(shù)量高達(dá)88萬(wàn),直播間背景板上用醒目的字體標(biāo)注著“適合頭暈頭痛、手麻腳麻、記憶力減退人群”等字樣。更令人驚訝的是,直播視頻中竟出現(xiàn)了中央廣播電視總臺(tái)主持人李梓萌的身影,似乎在“為產(chǎn)品代言”。
經(jīng)過進(jìn)一步取證,執(zhí)法人員發(fā)現(xiàn)所謂的“主持人形象”并非真人參與,而是利用AI換臉與語(yǔ)音合成技術(shù)偽造生成的虛假人物影像。視頻通過高仿真合成手段,模擬了主持人的聲音、口型與表情,極具欺騙性。許多消費(fèi)者因此誤以為該產(chǎn)品獲得權(quán)威媒體背書,從而下單購(gòu)買。
經(jīng)查,該公司銷售的“深海多烯魚油”并非藥品或保健食品,而是執(zhí)行標(biāo)準(zhǔn)為“糖果”的普通食品,不具備任何疾病治療或預(yù)防作用。其通過直播間散布“能治頭暈”“改善記憶”等功能性宣傳,嚴(yán)重違反《廣告法》和《反不正當(dāng)競(jìng)爭(zhēng)法》相關(guān)規(guī)定。
最終,海淀區(qū)市場(chǎng)監(jiān)管局依法對(duì)該公司作出行政處罰,責(zé)令其停止違法行為,刪除相關(guān)虛假?gòu)V告內(nèi)容,并處以罰款。同時(shí),監(jiān)管部門已將案件線索移交相關(guān)網(wǎng)絡(luò)平臺(tái),督促其加強(qiáng)對(duì)AI生成內(nèi)容的廣告審核與管理。
2025年6月,北京市海淀區(qū)市場(chǎng)監(jiān)管局查處了一起利用AI技術(shù)冒用央視知名主持人名義和形象發(fā)布虛假?gòu)V告的案件
2025-10-17 15:04:30偽造總臺(tái)主播帶貨北京查處首例利用AI技術(shù)發(fā)布虛假?gòu)V告案件