發(fā)布者回應(yīng)奶牛貓火場(chǎng)救貓視頻AI制作引熱議！惠州消防抖音號(hào)在4月15日8時(shí)發(fā)布了一段視頻，視頻下方標(biāo)注“內(nèi)容來(lái)源于網(wǎng)絡(luò)”。該視頻隨后被一些媒體轉(zhuǎn)發(fā)，并標(biāo)明來(lái)源于惠州消防。當(dāng)天15時(shí)45分，記者聯(lián)系了惠州消防，詢問視頻的真實(shí)性及是否為AI生成。工作人員表示會(huì)向領(lǐng)導(dǎo)反饋。約一小時(shí)后，工作人員回復(fù)稱事件發(fā)生在國(guó)外，但尚未甄別出視頻真?zhèn)?。他們通過視頻中消防員的服飾判斷事件發(fā)生地在國(guó)外。

同日16時(shí)許，惠州消防微信視頻號(hào)再次發(fā)布了該視頻，并注明“視頻來(lái)源于網(wǎng)絡(luò)地點(diǎn)在國(guó)外非本地案例”。記者注意到，4月1日有網(wǎng)友發(fā)布過這段視頻，并提示“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”。

記者聯(lián)系了視頻發(fā)布者，對(duì)方稱視頻是AI制作的，由朋友傳給他。記者提出想聯(lián)系視頻制作者，對(duì)方表示會(huì)轉(zhuǎn)達(dá)，但截至發(fā)稿時(shí)，無(wú)人聯(lián)系記者。

目前，“用AI檢測(cè)AI”是行業(yè)主流選擇。某科技公司負(fù)責(zé)人表示，現(xiàn)階段AI視頻生成技術(shù)仍受限于長(zhǎng)時(shí)程、高復(fù)雜度片段的制作。視頻時(shí)長(zhǎng)與復(fù)雜度越高，生成誤差率越高。通過細(xì)節(jié)觀察可識(shí)別AI視頻特征，如背景區(qū)域、光線反射處常存在細(xì)節(jié)瑕疵，包括無(wú)邏輯光斑、非自然扭曲等異?，F(xiàn)象。

涉及真人形象的AI視頻，核心可通過面部特征判斷。AI數(shù)字人面部多呈現(xiàn)高度對(duì)稱形態(tài)，而自然人面部因生活習(xí)慣等因素存在生理性微差異。肌體動(dòng)作一致性也是重要判斷依據(jù)。一些直播數(shù)字人，需要有觀眾互動(dòng)和觀眾記憶，自說(shuō)自話大部分就是數(shù)字人。此外，一個(gè)比較關(guān)鍵的判斷是動(dòng)作是否真實(shí)。若視頻中人物說(shuō)話時(shí)重復(fù)固定動(dòng)作，甚至肢體擺動(dòng)幅度完全一致，大概率為AI生成內(nèi)容。

一位專業(yè)人士透露，“遮擋測(cè)試是目前最有效的物理鑒定方法。”AI換臉最懼怕“遮擋”，因?yàn)樗惴ㄐ枰掷m(xù)鎖定面部特征點(diǎn)，一旦有物體遮擋臉部，算法就會(huì)出現(xiàn)紊亂。在直播間里，可以要求對(duì)方在臉前揮揮手或拿杯子喝口水，當(dāng)手指、杯子經(jīng)過面部時(shí)，AI換臉往往會(huì)露出破綻，比如面部出現(xiàn)扭曲、閃爍，或是手指邊緣變得模糊、與面部發(fā)生融合。

針對(duì)AI造假問題，我國(guó)正出臺(tái)多項(xiàng)治理措施。9月1日起施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)管理辦法》要求：AI服務(wù)提供者須在生成內(nèi)容時(shí)自動(dòng)添加顯性與隱性標(biāo)識(shí)。顯性標(biāo)識(shí)以文字、音頻或圖形提示的方式幫助用戶直接識(shí)別，隱性標(biāo)識(shí)則嵌入元數(shù)據(jù)信息，記錄生成來(lái)源及服務(wù)提供者編碼，實(shí)現(xiàn)內(nèi)容可識(shí)別、可追溯、可核驗(yàn)的全流程管理。

趙精武認(rèn)為，對(duì)《標(biāo)識(shí)管理辦法》的落實(shí)可進(jìn)一步細(xì)化。一方面，需要繼續(xù)鞏固中央網(wǎng)信辦“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)成效，形成周期性、常態(tài)化的AI技術(shù)應(yīng)用巡視機(jī)制；另一方面，公安機(jī)關(guān)等執(zhí)法部門需要對(duì)這類AI技術(shù)背后的網(wǎng)絡(luò)黑灰產(chǎn)業(yè)鏈進(jìn)行嚴(yán)厲打擊。未來(lái)，針對(duì)這類AI技術(shù)濫用情況，應(yīng)建構(gòu)專門的協(xié)同執(zhí)法機(jī)制，徹底切斷違法產(chǎn)業(yè)鏈。同時(shí)，盡可能對(duì)標(biāo)識(shí)標(biāo)準(zhǔn)進(jìn)行統(tǒng)一，并對(duì)平臺(tái)加強(qiáng)監(jiān)管，防止因平臺(tái)逐利而少標(biāo)識(shí)、不標(biāo)識(shí)。

生成式AI的治理應(yīng)在保護(hù)創(chuàng)新活力與守住法律底線之間找到平衡點(diǎn)。應(yīng)持續(xù)推進(jìn)技術(shù)標(biāo)準(zhǔn)與法律規(guī)范的協(xié)同創(chuàng)新，完善“標(biāo)準(zhǔn)—檢測(cè)—評(píng)價(jià)”的閉環(huán)治理機(jī)制，讓生成式AI真正服務(wù)于社會(huì)進(jìn)步與公眾福祉，實(shí)現(xiàn)“以人為本、技術(shù)向善”的治理目標(biāo)。發(fā)布者回應(yīng)奶牛貓火場(chǎng)救貓視頻AI制作引熱議！