AI假靳東越來(lái)越難防技術(shù)升級(jí)引發(fā)關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-10 07:41:13 新浪

AI假靳東越來(lái)越難防。演員靳東在3月5日的政協(xié)小組討論上，針對(duì)AI換臉導(dǎo)致的詐騙問(wèn)題發(fā)表了自己的看法。他提到一些觀眾因觀看AI換臉視頻而被騙，這種行為非常惡劣，并呼吁建立更好的規(guī)則來(lái)應(yīng)對(duì)。

去年11月，在江西宜春，一位老人因相信AI換臉視頻中的“靳東”而前往銀行申請(qǐng)貸款200萬(wàn)元。盡管銀行拒絕了她的請(qǐng)求，但這一事件揭示了AI換臉技術(shù)對(duì)中老年群體的影響。這類騙局不僅限于個(gè)案，許多網(wǎng)友分享了幫助家中長(zhǎng)輩識(shí)別和擺脫AI換臉視頻的經(jīng)歷。

近年來(lái)，類似的詐騙事件屢見(jiàn)不鮮。2020年秋天，江西都市頻道報(bào)道了一名61歲女子因與“假靳東”網(wǎng)戀離家出走的新聞。這些視頻通常使用靳東的影視片段，配上機(jī)械男聲，雖然破綻明顯，但仍有不少人受騙。隨著AI技術(shù)的進(jìn)步，如今的換臉和擬聲技術(shù)更加逼真，使得辨別真假變得更加困難。

不僅是中老年人，年輕一代也難以完全避免被AI生成的信息誤導(dǎo)。例如，一則關(guān)于“中國(guó)80后累計(jì)死亡率為5.20%”的謠言在網(wǎng)絡(luò)上廣泛傳播，直到中國(guó)人民大學(xué)教授李婷公開(kāi)辟謠。此外，股市也曾受到AI謠言的影響，如科大訊飛股價(jià)因一條虛假信息而大幅下跌。

全國(guó)人大代表雷軍和政協(xié)委員甘華田均提出建議，加強(qiáng)AI換臉和擬聲技術(shù)的治理。清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊指出，如果不對(duì)AI謠言進(jìn)行有效管理，可能會(huì)對(duì)社會(huì)信心和穩(wěn)定造成嚴(yán)重沖擊。

AI生成的內(nèi)容已經(jīng)變得越來(lái)越難以辨別。傳統(tǒng)謠言往往存在明顯的邏輯漏洞，而AI可以制造出高度逼真的信息，使謠言更具破壞力。此外，低成本和高利潤(rùn)推動(dòng)了一些機(jī)構(gòu)利用AI生成大量?jī)?nèi)容以獲取流量收益，這給警方的事實(shí)核查帶來(lái)了巨大挑戰(zhàn)。

盡管有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)出臺(tái)，但在實(shí)際操作中，跨平臺(tái)協(xié)作和技術(shù)發(fā)展速度的問(wèn)題依然存在。目前，AI生成圖像檢測(cè)技術(shù)的發(fā)展落后于生成模型技術(shù)，中小型平臺(tái)也難以承擔(dān)高昂的技術(shù)投入成本。

對(duì)于文字信息的治理，平臺(tái)主要通過(guò)識(shí)別同質(zhì)化內(nèi)容來(lái)進(jìn)行處理，但這并不足以完全解決謠言問(wèn)題。專家認(rèn)為，需要進(jìn)一步完善相關(guān)法律法規(guī)，確保AI內(nèi)容創(chuàng)造符合人類倫理規(guī)范。未來(lái)，如何在技術(shù)快速發(fā)展的背景下建立有效的管理體系，仍是一個(gè)亟待解決的問(wèn)題。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

AI假靳東越來(lái)越難防 技術(shù)升級(jí)引發(fā)關(guān)注

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI假靳東越來(lái)越難防技術(shù)升級(jí)引發(fā)關(guān)注