奶牛貓火場救小貓疑為AI制作 網(wǎng)絡(luò)素材引發(fā)熱議！惠州消防抖音號(hào)于4月15日8時(shí)發(fā)布了一段視頻，視頻下方標(biāo)注“內(nèi)容來源于網(wǎng)絡(luò)”。該視頻隨后被一些媒體轉(zhuǎn)發(fā)，并標(biāo)明來源為惠州消防。當(dāng)天15時(shí)45分，記者聯(lián)系了惠州消防，詢問視頻的真實(shí)性或是否為AI生成。工作人員表示會(huì)向領(lǐng)導(dǎo)反饋。一小時(shí)后，工作人員回復(fù)稱事件發(fā)生在國外，但尚未甄別出視頻是真實(shí)還是AI生成。他們解釋說，視頻中的消防員服飾與國內(nèi)不同，因此判斷是在國外發(fā)生的。

同日下午4時(shí)左右，惠州消防微信視頻號(hào)再次發(fā)布了該視頻，并注明“視頻來源于網(wǎng)絡(luò) 地點(diǎn)在國外 非本地案例”。記者注意到，早在4月1日，有網(wǎng)友也發(fā)布過這段視頻，并提示“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”。

記者隨后聯(lián)系了視頻發(fā)布者，對(duì)方確認(rèn)視頻是由AI制作的?！皠e人拿AI做的，給我傳過來的，有一個(gè)朋友專門就是做這種視頻的。”記者提出想聯(lián)系視頻制作者，對(duì)方表示會(huì)轉(zhuǎn)達(dá)，但截至發(fā)稿前，未收到進(jìn)一步聯(lián)系。

當(dāng)前，“用AI檢測AI”是行業(yè)主流選擇。對(duì)于普通用戶來說，如何通過人眼識(shí)別AI視頻？某科技公司負(fù)責(zé)人表示，現(xiàn)階段AI視頻生成技術(shù)在長時(shí)程、高復(fù)雜度片段的制作上仍存在局限，視頻時(shí)長和復(fù)雜度越高，生成誤差率越高。通過觀察細(xì)節(jié)可以識(shí)別AI視頻特征，如背景區(qū)域和光線反射處常存在細(xì)節(jié)瑕疵，包括無邏輯光斑、非自然扭曲等異常現(xiàn)象。

涉及真人形象的AI視頻，核心可以通過面部特征判斷。AI數(shù)字人的面部多呈現(xiàn)高度對(duì)稱形態(tài)，而自然人面部因生活習(xí)慣等因素存在生理性微差異。肌體動(dòng)作一致性也是重要判斷依據(jù)。一些直播數(shù)字人需要有觀眾互動(dòng)和記憶，自說自話大部分是數(shù)字人。此外，若視頻中人物說話時(shí)重復(fù)固定動(dòng)作，甚至肢體擺動(dòng)幅度完全一致，大概率為AI生成內(nèi)容。

專業(yè)人士透露，遮擋測試是目前最有效的物理鑒定方法。AI換臉最怕“遮擋”，因?yàn)樗惴ㄐ枰掷m(xù)鎖定面部特征點(diǎn)，一旦有物體遮擋臉部，算法就會(huì)出現(xiàn)紊亂。在直播間里，可以要求對(duì)方在臉前揮揮手或拿杯子喝口水，當(dāng)手指、杯子經(jīng)過面部時(shí)，AI換臉往往會(huì)露出破綻，比如面部出現(xiàn)扭曲、閃爍，或是手指邊緣變得模糊、與面部發(fā)生融合。

針對(duì)AI造假問題，我國正在出臺(tái)多項(xiàng)治理措施。2025年9月1日起施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)管理辦法》要求：AI服務(wù)提供者須在生成內(nèi)容時(shí)自動(dòng)添加顯性與隱性標(biāo)識(shí)。顯性標(biāo)識(shí)以文字、音頻或圖形提示的方式幫助用戶直接識(shí)別，隱性標(biāo)識(shí)則嵌入元數(shù)據(jù)信息，記錄生成來源及服務(wù)提供者編碼，實(shí)現(xiàn)內(nèi)容可識(shí)別、可追溯、可核驗(yàn)的全流程管理。

趙精武認(rèn)為，《標(biāo)識(shí)管理辦法》的落實(shí)需要進(jìn)一步細(xì)化。一方面，需要繼續(xù)鞏固中央網(wǎng)信辦“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)成效，形成周期性、常態(tài)化的AI技術(shù)應(yīng)用巡視機(jī)制；另一方面，公安機(jī)關(guān)等執(zhí)法部門需要對(duì)這類AI技術(shù)背后的網(wǎng)絡(luò)黑灰產(chǎn)業(yè)鏈進(jìn)行嚴(yán)厲打擊。未來，針對(duì)這類AI技術(shù)濫用情況，應(yīng)建構(gòu)專門的協(xié)同執(zhí)法機(jī)制，徹底切斷違法產(chǎn)業(yè)鏈。同時(shí)，盡可能對(duì)標(biāo)識(shí)標(biāo)準(zhǔn)進(jìn)行統(tǒng)一，并對(duì)平臺(tái)加強(qiáng)監(jiān)管，防止因平臺(tái)逐利而少標(biāo)識(shí)、不標(biāo)識(shí)。

生成式AI的治理需要在保護(hù)創(chuàng)新活力與守住法律底線之間找到平衡點(diǎn)。持續(xù)推進(jìn)技術(shù)標(biāo)準(zhǔn)與法律規(guī)范的協(xié)同創(chuàng)新，完善“標(biāo)準(zhǔn)—檢測—評(píng)價(jià)”的閉環(huán)治理機(jī)制，讓生成式AI真正服務(wù)于社會(huì)進(jìn)步與公眾福祉，實(shí)現(xiàn)“以人為本、技術(shù)向善”的治理目標(biāo)。