視頻畫面身臨其境可能也是AI偽造：警惕深度偽造技術(shù)濫用

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-05-22 19:45:53 網(wǎng)易

徐大爺是天壇公園健身圈的一名“網(wǎng)紅”，卻因AI技術(shù)遭遇了一場無妄之災(zāi)。他的視頻被不法分子盜用，并通過AI換臉技術(shù)將他變成了一個癌癥患者，還附帶了虛假廣告。

隨著人工智能技術(shù)的快速發(fā)展，諸如“AI換臉”和“AI合成照片、視頻”等現(xiàn)象在網(wǎng)絡(luò)中越來越常見。最近，“視頻畫面身臨其境可能也是AI偽造”的話題登上微博熱搜，引發(fā)了廣泛討論。盡管AI合成視頻在技術(shù)上取得了巨大突破，但一些不法分子卻將其用于制造謠言和網(wǎng)絡(luò)詐騙。

要辨別AI合成視頻的真?zhèn)危梢躁P(guān)注一些細(xì)節(jié)。例如，生成的視頻中眨眼或閉眼的動作較少，或者兩只眼睛的瞳孔顏色不一致，牙齒邊緣過于整齊，這些都可能是AI合成的跡象。此外，觀察人物面部表情是否自然、眨眼頻率是否異常以及音頻和視頻是否同步也是常見的方法。

針對AI合成視頻帶來的亂象，相關(guān)部門已經(jīng)采取行動。今年2月，中央網(wǎng)信辦發(fā)布了2025年“清朗”系列專項行動整治重點，特別提出整治AI技術(shù)濫用問題，打擊利用AI生成虛假信息的行為。國家網(wǎng)信辦等部門也發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法》，要求自9月1日起，所有AI生成合成內(nèi)容必須添加標(biāo)識。

互聯(lián)網(wǎng)平臺也在積極響應(yīng)。抖音開展了專項行動治理“AI起號”現(xiàn)象，清理了311條違規(guī)內(nèi)容，并封禁了15個嚴(yán)重違規(guī)賬號。小紅書則發(fā)布了關(guān)于整治AI技術(shù)濫用的公告，重點打擊利用AI批量生產(chǎn)虛假內(nèi)容漲粉、售賣AI起號課程等行為。

治理AI造謠需要多方面的努力。除了加強法律法規(guī)的制定和執(zhí)行外，還需要提高普通用戶的媒介素養(yǎng)與辨別能力。用戶應(yīng)保持懷疑態(tài)度，謹(jǐn)慎對待未經(jīng)核實的信息，避免盲目轉(zhuǎn)發(fā)。

(責(zé)任編輯：zx0001)

關(guān)閉

視頻畫面身臨其境可能也是AI偽造：警惕深度偽造技術(shù)濫用

相關(guān)新聞

今日熱點

頻道熱點