AI假靳東越來(lái)越難防。演員靳東在3月5日的政協(xié)小組討論上,針對(duì)AI換臉導(dǎo)致的詐騙問(wèn)題發(fā)表了自己的看法。他提到一些觀眾因觀看AI換臉視頻而被騙,這種行為非常惡劣,并呼吁建立更好的規(guī)則來(lái)應(yīng)對(duì)。
去年11月,在江西宜春,一位老人因相信AI換臉視頻中的“靳東”而前往銀行申請(qǐng)貸款200萬(wàn)元。盡管銀行拒絕了她的請(qǐng)求,但這一事件揭示了AI換臉技術(shù)對(duì)中老年群體的影響。這類騙局不僅限于個(gè)案,許多網(wǎng)友分享了幫助家中長(zhǎng)輩識(shí)別和擺脫AI換臉視頻的經(jīng)歷。
近年來(lái),類似的詐騙事件屢見(jiàn)不鮮。2020年秋天,江西都市頻道報(bào)道了一名61歲女子因與“假靳東”網(wǎng)戀離家出走的新聞。這些視頻通常使用靳東的影視片段,配上機(jī)械男聲,雖然破綻明顯,但仍有不少人受騙。隨著AI技術(shù)的進(jìn)步,如今的換臉和擬聲技術(shù)更加逼真,使得辨別真假變得更加困難。
不僅是中老年人,年輕一代也難以完全避免被AI生成的信息誤導(dǎo)。例如,一則關(guān)于“中國(guó)80后累計(jì)死亡率為5.20%”的謠言在網(wǎng)絡(luò)上廣泛傳播,直到中國(guó)人民大學(xué)教授李婷公開(kāi)辟謠。此外,股市也曾受到AI謠言的影響,如科大訊飛股價(jià)因一條虛假信息而大幅下跌。
全國(guó)人大代表雷軍和政協(xié)委員甘華田均提出建議,加強(qiáng)AI換臉和擬聲技術(shù)的治理。清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊指出,如果不對(duì)AI謠言進(jìn)行有效管理,可能會(huì)對(duì)社會(huì)信心和穩(wěn)定造成嚴(yán)重沖擊。
AI生成的內(nèi)容已經(jīng)變得越來(lái)越難以辨別。傳統(tǒng)謠言往往存在明顯的邏輯漏洞,而AI可以制造出高度逼真的信息,使謠言更具破壞力。此外,低成本和高利潤(rùn)推動(dòng)了一些機(jī)構(gòu)利用AI生成大量?jī)?nèi)容以獲取流量收益,這給警方的事實(shí)核查帶來(lái)了巨大挑戰(zhàn)。
盡管有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)出臺(tái),但在實(shí)際操作中,跨平臺(tái)協(xié)作和技術(shù)發(fā)展速度的問(wèn)題依然存在。目前,AI生成圖像檢測(cè)技術(shù)的發(fā)展落后于生成模型技術(shù),中小型平臺(tái)也難以承擔(dān)高昂的技術(shù)投入成本。
對(duì)于文字信息的治理,平臺(tái)主要通過(guò)識(shí)別同質(zhì)化內(nèi)容來(lái)進(jìn)行處理,但這并不足以完全解決謠言問(wèn)題。專家認(rèn)為,需要進(jìn)一步完善相關(guān)法律法規(guī),確保AI內(nèi)容創(chuàng)造符合人類倫理規(guī)范。未來(lái),如何在技術(shù)快速發(fā)展的背景下建立有效的管理體系,仍是一個(gè)亟待解決的問(wèn)題。
前段時(shí)間的一檔脫口秀節(jié)目中,關(guān)于客服轉(zhuǎn)人工越來(lái)越難的段子意外爆火。
2024-10-24 14:21:00為什么轉(zhuǎn)人工越來(lái)越難了