“用AI流浪漢騙家人”走紅 民警提醒 警惕虛假信息引發(fā)恐慌!生成式 AI 推動(dòng)的深度偽造技術(shù)已經(jīng)相當(dāng)成熟,許多青少年正在利用這項(xiàng)技術(shù)整蠱家人和朋友。最新流行的惡作劇是孩子們偽造自己邀請(qǐng)無(wú)家可歸者進(jìn)家的照片,再發(fā)給父母,引發(fā)了驚慌甚至報(bào)警。
這一現(xiàn)象表明,先進(jìn)的生成式 AI 工具已深入日常生活,也預(yù)示著人們正進(jìn)入一個(gè)真假難辨的時(shí)代:連來(lái)自親友的影像都可能是偽造的。社交媒體上充斥著年輕人炫耀如何用 AI 把父母或朋友嚇壞的視頻。隨著這股風(fēng)潮愈演愈烈,美國(guó)多地警方開(kāi)始發(fā)布警告。馬薩諸塞州塞勒姆警方表示,這種行為既愚蠢又危險(xiǎn),不僅讓無(wú)家可歸者被物化,還使接收者陷入恐慌,并浪費(fèi)警力資源。
華盛頓州奧克港警方指出,“AI 無(wú)家可歸者”惡作劇帶來(lái)了安全隱患,一度讓人誤以為“有流浪者闖入奧克港高中校園”。警方提醒,AI 能生成極具欺騙性的影像,虛假信息傳播極快,容易引發(fā)恐慌并干擾公共安全。一些執(zhí)法部門(mén)警告,這類(lèi)行為已超出惡作劇的范疇。俄亥俄州布朗縣警長(zhǎng)辦公室在 Facebook 上發(fā)文稱(chēng):“這種行為不是玩笑,而是犯罪?!眱擅媸挛闯赡耆艘驯黄鹪V。
類(lèi)似情況也出現(xiàn)在英國(guó),當(dāng)?shù)厍嗌倌晖瑯永?AI 整蠱父母和朋友,警方呼吁在報(bào)警前先確認(rèn)可疑照片是否為惡作劇。得克薩斯州朗德羅克警方指揮官安迪·麥金尼表示,惡作劇看似無(wú)害,卻可能帶來(lái)嚴(yán)重后果。年輕人常忽視這些影響,可能讓真正的緊急事件被耽誤,還浪費(fèi)了公共資源。