电竞下注-中国电竞赛事及体育赛事平台

當(dāng)前位置：新聞 > 熱點新聞 > 正文

張文宏“被AI帶貨”，監(jiān)管如何跟上技術(shù)發(fā)展？(2)

2024-12-14 15:05:49 來源：央視新聞客戶端 A+A-

雖然目前AI“換臉”和“仿聲”有一定的技術(shù)門檻和較高的實現(xiàn)成本，但如果被不法分子掌握，就可能在即時通信或者社交軟件上偽裝他人，開展詐騙活動。

如何識別AI換臉換聲？

據(jù)了解，AI換臉主要使用深度合成技術(shù)。在我國，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出，要求深度合成服務(wù)提供者對深度合成的內(nèi)容添加顯式或隱式水印。

中國信通院人工智能所安全與元宇宙部專家陳文弢介紹，水印的本質(zhì)就是提示公眾這個內(nèi)容是由AI合成的，另一方面也是為了追溯來源。

專家提醒，用戶可以學(xué)習(xí)一些小訣竅，來辨別AI換臉詐騙。比如，在進行視頻對話時，可以要求對方在臉部前面，通過揮手的方式識別實時偽造的視頻。這是因為在揮手的過程中會造成面部的數(shù)據(jù)干擾，如果是偽造的人臉，會產(chǎn)生一定的抖動或閃現(xiàn)。

在點對點的溝通過程中，可以問一些只有對方知道的問題，以此來驗證對方的真實性。

但值得注意的是，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來隨著AI技術(shù)的發(fā)展，這類AI變臉技術(shù)有可能更具迷惑性。

監(jiān)管如何跟上技術(shù)發(fā)展？

快速發(fā)展的AI技術(shù)帶來了相關(guān)信息的爆炸式增長，造成了AI信息甄別困難。因此，治理也應(yīng)當(dāng)提速，跟上技術(shù)發(fā)展的步伐。

工信部信息通信經(jīng)濟專家委員會委員盤和林稱，目前受害人維權(quán)困難，一方面是由于缺少簡化訴訟的渠道，另一方面是平臺在處理此類維權(quán)問題時，不配合、不積極。“下一步，既要疏通當(dāng)事人維權(quán)渠道，也應(yīng)要求平臺完善算法，及時發(fā)現(xiàn)問題視頻，增加平臺監(jiān)管內(nèi)容的責(zé)任義務(wù)。”

推薦閱讀

24小時熱點