“奶牛貓火場(chǎng)救小貓”疑為AI制作 網(wǎng)絡(luò)素材引發(fā)熱議。惠州消防抖音號(hào)于4月15日8時(shí)發(fā)布了一段視頻，視頻下方標(biāo)注“內(nèi)容來源于網(wǎng)絡(luò)”。該視頻被一些媒體轉(zhuǎn)發(fā)并注明來源于惠州消防。當(dāng)天下午3時(shí)45分，記者聯(lián)系了惠州消防，詢問視頻是否為真實(shí)事件還是AI生成的。工作人員表示會(huì)向領(lǐng)導(dǎo)反饋。一小時(shí)后，工作人員回復(fù)稱事件發(fā)生在國(guó)外，并解釋視頻中的消防員服飾與國(guó)內(nèi)不同。

同日下午4時(shí)左右，惠州消防微信視頻號(hào)再次發(fā)布了該視頻，并在視頻中注明“視頻來源于網(wǎng)絡(luò) 地點(diǎn)在國(guó)外 非本地案例”。記者注意到，4月1日有網(wǎng)友也發(fā)布了這條視頻，并提示“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”。

記者隨后聯(lián)系了視頻發(fā)布者，對(duì)方確認(rèn)視頻是用AI制作的，由朋友傳給他。記者希望聯(lián)系視頻制作者，但截至發(fā)稿前未收到回復(fù)。

當(dāng)前，“用AI檢測(cè)AI”是行業(yè)主流選擇。某科技公司負(fù)責(zé)人表示，現(xiàn)階段AI視頻生成技術(shù)仍受限于長(zhǎng)時(shí)程、高復(fù)雜度片段的制作。通過觀察細(xì)節(jié)可以識(shí)別AI視頻特征，如背景區(qū)域和光線反射處常存在瑕疵，包括無邏輯光斑、非自然扭曲等異?，F(xiàn)象。涉及真人形象的AI視頻，核心可通過面部特征判斷。AI數(shù)字人面部多呈現(xiàn)高度對(duì)稱形態(tài)，而自然人面部因生活習(xí)慣等因素存在微差異。肌體動(dòng)作一致性也是重要判斷依據(jù)。如果視頻中人物說話時(shí)重復(fù)固定動(dòng)作或肢體擺動(dòng)幅度完全一致，大概率是AI生成內(nèi)容。

一位專業(yè)人士透露，遮擋測(cè)試是目前最有效的物理鑒定方法。AI換臉最怕遮擋，一旦有物體遮擋臉部，算法會(huì)出現(xiàn)紊亂。在直播間里，可以讓對(duì)方在臉前揮揮手或拿杯子喝水，當(dāng)手指、杯子經(jīng)過面部時(shí)，AI換臉往往會(huì)露出破綻，比如面部出現(xiàn)扭曲、閃爍，或是手指邊緣變得模糊、與面部發(fā)生融合。

針對(duì)AI造假問題，我國(guó)出臺(tái)了多項(xiàng)治理措施。9月1日起施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)管理辦法》要求AI服務(wù)提供者須在生成內(nèi)容時(shí)自動(dòng)添加顯性與隱性標(biāo)識(shí)。趙精武認(rèn)為，對(duì)《標(biāo)識(shí)管理辦法》的落實(shí)可進(jìn)一步細(xì)化。一方面，需要繼續(xù)鞏固中央網(wǎng)信辦“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)成效，形成周期性、常態(tài)化的AI技術(shù)應(yīng)用巡視機(jī)制；另一方面，公安機(jī)關(guān)等執(zhí)法部門需要對(duì)這類AI技術(shù)背后的網(wǎng)絡(luò)黑灰產(chǎn)業(yè)鏈進(jìn)行嚴(yán)厲打擊。未來，應(yīng)建構(gòu)專門的協(xié)同執(zhí)法機(jī)制，徹底切斷違法產(chǎn)業(yè)鏈。同時(shí)，盡可能對(duì)標(biāo)識(shí)標(biāo)準(zhǔn)進(jìn)行統(tǒng)一，并對(duì)平臺(tái)加強(qiáng)監(jiān)管，防止因平臺(tái)逐利而少標(biāo)識(shí)、不標(biāo)識(shí)。

生成式AI的治理需要在保護(hù)創(chuàng)新活力與守住法律底線之間找到平衡點(diǎn)。應(yīng)持續(xù)推進(jìn)技術(shù)標(biāo)準(zhǔn)與法律規(guī)范的協(xié)同創(chuàng)新，完善“標(biāo)準(zhǔn)—檢測(cè)—評(píng)價(jià)”的閉環(huán)治理機(jī)制，讓生成式AI真正服務(wù)于社會(huì)進(jìn)步與公眾福祉，實(shí)現(xiàn)“以人為本、技術(shù)向善”的治理目標(biāo)。