隨著AI生成技術(shù)飛速發(fā)展，“視頻換臉”、“形象克隆”等黑灰產(chǎn)業(yè)鏈迅速滋生，人臉識(shí)別驗(yàn)證的安全性正受到挑戰(zhàn)。近日，山東一個(gè)AI詐騙犯罪團(tuán)伙落網(wǎng)，警方查獲AI合成的搖頭、眨眼等動(dòng)態(tài)人臉視頻5萬(wàn)多條，這些視頻被電詐團(tuán)伙用于進(jìn)行虛假實(shí)名認(rèn)證。

普通人可能認(rèn)為這是一種遠(yuǎn)離生活的“高科技犯罪”，但事實(shí)上，類似的視頻人人都能做，相關(guān)工具甚至在一些平臺(tái)明碼標(biāo)價(jià)。記者在主流電商平臺(tái)檢索發(fā)現(xiàn)，眼下不少商家正在兜售一種集成了“圖片生視頻”功能的AI工具，聲稱只需一張大頭照就能精準(zhǔn)復(fù)刻搖頭、張嘴等動(dòng)作，并將生成的畫面?zhèn)窝b成手機(jī)攝像頭拍到的實(shí)時(shí)畫面。此類軟件本身的售價(jià)大多在百元以內(nèi)，而視頻生成的成本在5秒2元左右。至于工具的具體用途，這些商家統(tǒng)一避而不談，表示能干什么、能用于哪些平臺(tái)都要買家“自己測(cè)試”，任何應(yīng)用項(xiàng)目和賣家無(wú)關(guān)，而軟件資料均通過(guò)網(wǎng)盤和微信渠道交接。

更令人心驚的是，AI生成的這些人臉識(shí)別視頻，確實(shí)可能騙過(guò)平臺(tái)檢驗(yàn)系統(tǒng)。去年7月，南京的符某非法獲取超195萬(wàn)余條個(gè)人信息后，通過(guò)AI換臉進(jìn)行人臉識(shí)別，登錄了23名被害人的支付賬戶并盜刷銀行卡消費(fèi)上萬(wàn)元，最終被判處有期徒刑4年6個(gè)月。AI時(shí)代，人臉識(shí)別驗(yàn)證的“防線”會(huì)不會(huì)逐步失效？普通人是否有必要擔(dān)憂，又如何防范其中風(fēng)險(xiǎn)？

對(duì)此，上海人工智能研究院AI算法工程師馬容與介紹，傳統(tǒng)的人臉識(shí)別驗(yàn)證思路只靠眨眼、張嘴和轉(zhuǎn)頭來(lái)判斷活體，這種方案的安全邊際確實(shí)正在縮小。如今，更有效的檢測(cè)機(jī)制可以對(duì)整段視頻的幀率、時(shí)序、設(shè)備可信度和行為風(fēng)控等多個(gè)因素進(jìn)行審核，從而提高面對(duì)AI的辨識(shí)力，這也對(duì)平臺(tái)提出了更高的抗偽造能力要求。對(duì)于普通網(wǎng)民，專家建議盡量避免暴露身份證件、高清正臉視頻等高風(fēng)險(xiǎn)信息，謹(jǐn)慎進(jìn)行人臉采集授權(quán)，并在進(jìn)行重要資金操作時(shí)優(yōu)先選擇短信密碼、動(dòng)態(tài)令牌、人工復(fù)核等復(fù)合型驗(yàn)證方式，以免成為AI攻擊的“素材”。

必須明確的是，非法盜用面部照片、音頻等敏感生物識(shí)別信息，可能涉及侵犯公民個(gè)人信息罪，相關(guān)信息收集方也需承擔(dān)侵權(quán)責(zé)任。對(duì)此，法律專家建議，除了平臺(tái)方強(qiáng)化審核之外，更應(yīng)在立法層面細(xì)化AI生成內(nèi)容標(biāo)識(shí)標(biāo)準(zhǔn)、侵權(quán)責(zé)任劃分，執(zhí)法層面強(qiáng)化備案與處罰力度，及時(shí)堵住人臉識(shí)別防線“漏洞”。