“張文宏是不是帶貨了？”最近，有網(wǎng)友稱在網(wǎng)絡(luò)賣貨視頻中看到知名醫(yī)生張文宏在售賣一種蛋白棒產(chǎn)品。不過，經(jīng)常刷短視頻的朋友很快就能分辨出這是AI合成的視頻，并非本人。

隨著人工智能技術(shù)的迅猛發(fā)展，AI換臉已經(jīng)能夠做到以假亂真。當(dāng)AI技術(shù)被不當(dāng)使用，用戶該如何識(shí)破騙局？監(jiān)管如何跟上技術(shù)發(fā)展？

張文宏回應(yīng)“被AI帶貨”：已多次投訴但違規(guī)賬號(hào)屢禁不止

在帶貨視頻中，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽起來很像張文宏本人。一些老人信以為真，不僅下了單，還呼朋引伴來購買。對此，張文宏回應(yīng)稱，這樣的賣貨賬號(hào)不止一個(gè)，而且一直在變，他多次向平臺(tái)投訴但屢禁不絕。

目前，用語音合成來模仿他人聲音，生成視頻的技術(shù)已經(jīng)非常成熟，甚至僅用一張照片就能生成此類視頻。

工信部信息通信經(jīng)濟(jì)專家委員會(huì)委員盤和林表示：“AI技術(shù)冒充名人帶貨、詐騙越來越多，這里的關(guān)鍵不在AI，而是要及時(shí)處理利用AI冒充他人的內(nèi)容發(fā)布者。冒名頂替、虛假宣傳、破壞名人肖像權(quán)、利用名人的公信力來牟利，這些行為會(huì)給名人帶來風(fēng)險(xiǎn)，也會(huì)成為詐騙分子的溫床。”

工信部反詐工作專班專家李坤介紹，在網(wǎng)上，耳聽眼見不一定為實(shí)。“擬聲”“換臉”等合成技術(shù)的一大特點(diǎn)是以假亂真，不法分子可以利用此類技術(shù)輕易偽裝成他人，并通過快速篩選目標(biāo)人群、精準(zhǔn)制定詐騙腳本。

“不法分子通過各種公開渠道獲取受害人的個(gè)人肖像或視頻，然后利用AI技術(shù)對受害人面容特征進(jìn)行學(xué)習(xí)，模仿眨眼、搖頭等動(dòng)作，實(shí)現(xiàn)以假亂真的效果?！崩罾ふf。

雖然目前AI“換臉”和“仿聲”有一定的技術(shù)門檻和較高的實(shí)現(xiàn)成本，但如果被不法分子掌握，就可能在即時(shí)通信或者社交軟件上偽裝他人，開展詐騙活動(dòng)。

如何識(shí)別AI換臉換聲？

據(jù)了解，AI換臉主要使用深度合成技術(shù)。在我國，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出，要求深度合成服務(wù)提供者對深度合成的內(nèi)容添加顯式或隱式水印。

中國信通院人工智能所安全與元宇宙部專家陳文弢介紹，水印的本質(zhì)就是提示公眾這個(gè)內(nèi)容是由AI合成的，另一方面也是為了追溯來源。

專家提醒，用戶可以學(xué)習(xí)一些小訣竅，來辨別AI換臉詐騙。比如，在進(jìn)行視頻對話時(shí)，可以要求對方在臉部前面，通過揮手的方式識(shí)別實(shí)時(shí)偽造的視頻。這是因?yàn)樵趽]手的過程中會(huì)造成面部的數(shù)據(jù)干擾，如果是偽造的人臉，會(huì)產(chǎn)生一定的抖動(dòng)或閃現(xiàn)。

在點(diǎn)對點(diǎn)的溝通過程中，可以問一些只有對方知道的問題，以此來驗(yàn)證對方的真實(shí)性。

但值得注意的是，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來隨著AI技術(shù)的發(fā)展，這類AI變臉技術(shù)有可能更具迷惑性。

監(jiān)管如何跟上技術(shù)發(fā)展？

快速發(fā)展的AI技術(shù)帶來了相關(guān)信息的爆炸式增長，造成了AI信息甄別困難。因此，治理也應(yīng)當(dāng)提速，跟上技術(shù)發(fā)展的步伐。

工信部信息通信經(jīng)濟(jì)專家委員會(huì)委員盤和林稱，目前受害人維權(quán)困難，一方面是由于缺少簡化訴訟的渠道，另一方面是平臺(tái)在處理此類維權(quán)問題時(shí)，不配合、不積極。“下一步，既要疏通當(dāng)事人維權(quán)渠道，也應(yīng)要求平臺(tái)完善算法，及時(shí)發(fā)現(xiàn)問題視頻，增加平臺(tái)監(jiān)管內(nèi)容的責(zé)任義務(wù)。”

中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括表示：“從治理角度來講，需要考慮整體的技術(shù)準(zhǔn)入，包括良性技術(shù)解決方案的設(shè)計(jì)研發(fā)和選用。從社會(huì)組織管理角度來說，這對我們優(yōu)化社會(huì)治理提出了新要求，在這個(gè)過程中，各種可信任的驗(yàn)證機(jī)制建設(shè)成為非常緊迫的話題?！?/p>

此外，吳沈括認(rèn)為每一個(gè)人都應(yīng)該提高警惕，從自身出發(fā)，在日常生活中做好防范。

“用戶要提升辨別能力，比如視頻中某位公眾人物發(fā)表跟他的身份不相關(guān)，甚至完全偏離的言論內(nèi)容時(shí)，就存在比較大的風(fēng)險(xiǎn)。同時(shí)，平臺(tái)可以發(fā)布一些風(fēng)險(xiǎn)警示，讓用戶尤其是老年人群體，更及時(shí)地警惕可能存在的違法行為。”吳沈括說。