6月9日至10日，在上證指數(shù)一度站上3400點(diǎn)之際，多位財經(jīng)博主的自媒體賬號遭遇了“貍貓換太子”的情況。一些賬號被盜后發(fā)布疑似為股市“殺豬盤”引流的廣告，還有一些賬號被盜后冒充號主本人和粉絲“一對一”私聊，將粉絲引向詐騙陷阱。

據(jù)被盜號者自述，其賬號所屬的企業(yè)被偽造的“人臉識別”授權(quán)更換了法人，之后通過法人權(quán)限取得了賬號控制權(quán)，才有了后續(xù)的一系列疑似詐騙行為。調(diào)查發(fā)現(xiàn)，“代過人臉識別”已經(jīng)成為一條隱秘的黑灰產(chǎn)產(chǎn)業(yè)鏈。多名黑灰產(chǎn)從業(yè)者表示可以代過人臉驗(yàn)證，價格在560元到1400元不等。

螞蟻集團(tuán)AI核身安全高級專家崔征兩表示，目前人臉識別被攻破一般有兩種情況：一種是通過假臉（如3D頭模、面具、高清屏等）惡意攻擊刷臉并成功完成人臉驗(yàn)證；另一種是通過技術(shù)注入手法攻擊刷臉并成功完成人臉驗(yàn)證。AIGC發(fā)展迅猛，AI換臉改變了攻擊內(nèi)容的生成方式，被黑灰產(chǎn)利用，為各行業(yè)帶來了非常大的挑戰(zhàn)。

浙江墾丁律師事務(wù)所主任律師張延來表示，盜號并群發(fā)詐騙信息涉及非法侵入計算機(jī)信息系統(tǒng)罪、詐騙罪、侵犯公民個人信息罪。要堵住這一詐騙漏洞，建議引入多重認(rèn)證機(jī)制，以及為企業(yè)關(guān)鍵信息變更設(shè)置“高風(fēng)險提醒”機(jī)制。

6月10日晚間，多位自媒體發(fā)文揭露其名下賬號突然遭遇盜號。其中“遠(yuǎn)方青木”詳細(xì)描述了其名下小號（粉絲約60萬）被盜始末，表示盜號者通過人臉識別的方式在6月3日讓賬號所在企業(yè)的原法人“授權(quán)”更換了新法人，最終在6月10日凌晨重置了賬號密碼，并在早上8點(diǎn)左右群發(fā)了詐騙信息。

記者調(diào)查發(fā)現(xiàn)，一些黑灰產(chǎn)從業(yè)者甚至在宣傳中明確指出了具體的地方政務(wù)系統(tǒng)，包括浙里辦、豫事辦、海易辦等，并表示“基本（攻破）政務(wù)都沒問題”。展示的一個通過人臉驗(yàn)證的演示視頻中，生成出的人臉在極短時間內(nèi)可以做出諸如“搖頭”“張嘴”“眨眼”等動作，成功通過人臉測試。

網(wǎng)絡(luò)安全研究專家彭根表示，這類事件的發(fā)生主要是由于AI技術(shù)使得虛擬“人臉”越來越真實(shí)。識別真?zhèn)卧絹碓诫y，堵住這樣的漏洞只能依靠技術(shù)升級。國家網(wǎng)信辦此前發(fā)布的《人臉識別技術(shù)應(yīng)用安全管理規(guī)定（試行）（征求意見稿）》明確，人臉識別技術(shù)使用者應(yīng)當(dāng)每年對圖像采集設(shè)備、個人身份識別設(shè)備的安全性和可能存在的風(fēng)險進(jìn)行檢測評估，并根據(jù)檢測評估情況改進(jìn)安全策略，調(diào)整置信度閾值，采取有效措施保護(hù)設(shè)備免受攻擊、侵入、干擾和破壞。

螞蟻數(shù)科安全總監(jiān)王磊表示，黑產(chǎn)團(tuán)伙往往通過非法渠道購買公民隱私信息，用AI生成虛假人臉活體視頻、劫持?jǐn)z像頭篡改采集內(nèi)容，達(dá)到欺騙平臺的目的。深度偽造算法與安全防御算法是一個相互博弈的過程，建議網(wǎng)絡(luò)平臺建立具備實(shí)時安全對抗能力的人臉識別系統(tǒng)，及時采集新型攻擊手段，人臉識別的模型需要高效更新反制手段。此外，網(wǎng)絡(luò)平臺需要有完善的業(yè)務(wù)風(fēng)控策略，從注冊、登錄、業(yè)務(wù)開通或支付等環(huán)節(jié)多層次監(jiān)控，警惕異地登錄、設(shè)備更換等異常行為。

除了技術(shù)升級外，增加除人臉識別外的多重防控系統(tǒng)以及在政務(wù)平臺設(shè)置“高風(fēng)險提醒機(jī)制”也是可供選擇的解決手段。崔征兩表示，應(yīng)對人臉識別風(fēng)險，一般的防護(hù)措施是建立多重防控體系，包括手機(jī)和鏈路的加固與防控、研發(fā)應(yīng)對deepfake的能力、進(jìn)行多因子校驗(yàn)等。裴智勇建議，使用人臉識別技術(shù)應(yīng)加入其他驗(yàn)證手段進(jìn)行輔助，如常見的短信驗(yàn)證、電話驗(yàn)證或大數(shù)據(jù)驗(yàn)證，這樣相對更安全。張延來也建議引入多重認(rèn)證機(jī)制，如結(jié)合動態(tài)短信驗(yàn)證碼+人臉識別+歷史設(shè)備登錄行為等。