6月9日至10日，在上證指數(shù)一度站上3400點之際，多位財經(jīng)博主的自媒體賬號遭遇了“貍貓換太子”的情況。一些賬號被盜后發(fā)布疑似為股市“殺豬盤”引流的廣告，還有一些賬號被盜后冒充號主本人和粉絲“一對一”私聊，將粉絲引向詐騙陷阱。

據(jù)被盜號者自述，其賬號所屬的企業(yè)被偽造的“人臉識別”授權更換了法人，之后通過法人權限取得了賬號控制權，才有了后續(xù)的一系列疑似詐騙行為。調(diào)查發(fā)現(xiàn)，“代過人臉識別”已經(jīng)成為一條隱秘的黑灰產(chǎn)產(chǎn)業(yè)鏈。多名黑灰產(chǎn)從業(yè)者表示可以代過人臉驗證，價格在560元到1400元不等。

螞蟻集團AI核身安全高級專家崔征兩表示，目前人臉識別被攻破一般有兩種情況：一種是通過假臉（如3D頭模、面具、高清屏等）惡意攻擊刷臉并成功完成人臉驗證；另一種是通過技術注入手法攻擊刷臉并成功完成人臉驗證。AIGC發(fā)展迅猛，AI換臉改變了攻擊內(nèi)容的生成方式，被黑灰產(chǎn)利用，為各行業(yè)帶來了非常大的挑戰(zhàn)。

浙江墾丁律師事務所主任律師張延來表示，盜號并群發(fā)詐騙信息涉及非法侵入計算機信息系統(tǒng)罪、詐騙罪、侵犯公民個人信息罪。要堵住這一詐騙漏洞，建議引入多重認證機制，以及為企業(yè)關鍵信息變更設置“高風險提醒”機制。

6月10日晚間，多位自媒體發(fā)文揭露其名下賬號突然遭遇盜號。其中“遠方青木”詳細描述了其名下小號（粉絲約60萬）被盜始末，表示盜號者通過人臉識別的方式在6月3日讓賬號所在企業(yè)的原法人“授權”更換了新法人，最終在6月10日凌晨重置了賬號密碼，并在早上8點左右群發(fā)了詐騙信息。

記者調(diào)查發(fā)現(xiàn)，一些黑灰產(chǎn)從業(yè)者甚至在宣傳中明確指出了具體的地方政務系統(tǒng)，包括浙里辦、豫事辦、海易辦等，并表示“基本（攻破）政務都沒問題”。展示的一個通過人臉驗證的演示視頻中，生成出的人臉在極短時間內(nèi)可以做出諸如“搖頭”“張嘴”“眨眼”等動作，成功通過人臉測試。

網(wǎng)絡安全研究專家彭根表示，這類事件的發(fā)生主要是由于AI技術使得虛擬“人臉”越來越真實。識別真?zhèn)卧絹碓诫y，堵住這樣的漏洞只能依靠技術升級。國家網(wǎng)信辦此前發(fā)布的《人臉識別技術應用安全管理規(guī)定（試行）（征求意見稿）》明確，人臉識別技術使用者應當每年對圖像采集設備、個人身份識別設備的安全性和可能存在的風險進行檢測評估，并根據(jù)檢測評估情況改進安全策略，調(diào)整置信度閾值，采取有效措施保護設備免受攻擊、侵入、干擾和破壞。

螞蟻數(shù)科安全總監(jiān)王磊表示，黑產(chǎn)團伙往往通過非法渠道購買公民隱私信息，用AI生成虛假人臉活體視頻、劫持攝像頭篡改采集內(nèi)容，達到欺騙平臺的目的。深度偽造算法與安全防御算法是一個相互博弈的過程，建議網(wǎng)絡平臺建立具備實時安全對抗能力的人臉識別系統(tǒng)，及時采集新型攻擊手段，人臉識別的模型需要高效更新反制手段。此外，網(wǎng)絡平臺需要有完善的業(yè)務風控策略，從注冊、登錄、業(yè)務開通或支付等環(huán)節(jié)多層次監(jiān)控，警惕異地登錄、設備更換等異常行為。

除了技術升級外，增加除人臉識別外的多重防控系統(tǒng)以及在政務平臺設置“高風險提醒機制”也是可供選擇的解決手段。崔征兩表示，應對人臉識別風險，一般的防護措施是建立多重防控體系，包括手機和鏈路的加固與防控、研發(fā)應對deepfake的能力、進行多因子校驗等。裴智勇建議，使用人臉識別技術應加入其他驗證手段進行輔助，如常見的短信驗證、電話驗證或大數(shù)據(jù)驗證，這樣相對更安全。張延來也建議引入多重認證機制，如結合動態(tài)短信驗證碼+人臉識別+歷史設備登錄行為等。