隨著AI技術(shù)的迅猛發(fā)展和生成式人工智能的快速迭代,各種紛雜的人工智能生成信息讓人眼花繚亂,有時難辨真假,這也給監(jiān)管部門和平臺治理提出了新的挑戰(zhàn)。技術(shù)上的迭代升級也讓這些仿冒內(nèi)容的防范難度更大。過去需要一定技術(shù)門檻和成本投入的深度偽造,在AI大模型的助力下,不再需要長時間的深度學(xué)習(xí)和數(shù)據(jù)訓(xùn)練,就能在幾分鐘內(nèi)生成逼真的仿冒內(nèi)容。
平臺應(yīng)當(dāng)扛起責(zé)任,進(jìn)一步升級AI識別技術(shù),用數(shù)字水印、區(qū)塊鏈存證等手段增強(qiáng)鑒偽追溯能力,避免AI仿冒虛假信息進(jìn)入傳播平臺。法律法規(guī)也需細(xì)化,進(jìn)一步明晰標(biāo)識規(guī)范、回溯機(jī)制、追責(zé)機(jī)制。技術(shù)開發(fā)者和使用者更應(yīng)該守住“科技向善”的底線,不把商業(yè)利益凌駕于社會責(zé)任之上。AI仿冒帶貨不僅侵犯了被仿冒人士和品牌的權(quán)利,也存在欺詐嫌疑,更觸動了數(shù)字社會賴以存續(xù)的信任根基。作為消費者,我們自己當(dāng)然要盡可能擦亮眼睛去甄別,對所謂“傾情奉獻(xiàn)”的“明星代言”保持理性判斷,避免掉進(jìn)消費陷阱。但是靠普通消費者的識別能力來防偽是遠(yuǎn)遠(yuǎn)不夠的,更需要平臺和相關(guān)部門扛起把關(guān)的責(zé)任,通過技術(shù)手段和治理能力的提升,用系統(tǒng)性力量,守好“真”的邊界。唯有全社會形成共同抵制AI欺詐的合力,才能以“科技”之筆,繪就“向善”未來。
新聞主播現(xiàn)身網(wǎng)絡(luò)直播間,甚至播報深海魚油的廣告?近日,北京市市場監(jiān)管部門查處了首例利用AI技術(shù)進(jìn)行虛假廣告宣傳的案件
2025-10-16 10:39:30官方通報央視主持人遭AI仿冒帶貨