地震被壓廢墟下小孩是AI生成虛假圖片誤導公眾

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-01-09 20:29:53 長城網

1月7日9時05分，西藏日喀則市定日縣發(fā)生6.8級地震，牽動著許多網友的心。但一些網友為了流量，利用AI技術生成“災區(qū)”群眾被埋、房屋坍塌等虛假照片并發(fā)布，配文與日喀則地震相關關鍵詞，造成網友誤解。

其中，一張“被壓廢墟下的小男孩”圖片引發(fā)廣泛關注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃。這張圖片在某短視頻平臺被多個賬戶轉發(fā)，有賬戶因此獲得上萬轉發(fā)和評贊。實際上，這張圖片由AI生成，圖中孩子的左手顯示為六根手指，平臺也在相關視頻下方給出文字提示：“疑似使用AI生成技術，請謹慎甄別”。盡管有提示，不少網友仍被誤導，并在留言區(qū)關注男孩的生命安全。

這并非個例。在某視頻平臺上，以“日喀則地震群眾被埋”為關鍵詞搜索發(fā)現(xiàn)，不少視頻博主都發(fā)布了AI生成的災區(qū)圖片，并在配文中與日喀則地震關聯(lián)。盡管大部分圖片下方都有小字提示為“AI生成”，但相關內容仍讓不少網友信以為真。

為測試該類圖片的生成過程，記者嘗試在多款AI智能生成軟件中進行相關圖片生成。多數軟件生成圖片無風險提示，如在一款名為“豆包”的AI智能APP中，輸入“日喀則地震嬰兒被埋”的關鍵詞后，軟件自動生成了多張相關圖片，未給予任何侵權、違規(guī)、虛假信息等干預提示。北京京展律師事務所主任律師張曉玲分析認為，AI軟件在輸入有關地震等關鍵詞時，未給出任何“不傳播虛假信息”等提示，直接生成相關圖片，存在不妥。AI軟件應當具備一定的道德和法律判斷能力，在用戶輸入關鍵詞時給予明確警示，避免生成和傳播虛假信息。

在發(fā)布環(huán)節(jié)，記者上傳上述AI生成的“地震嬰兒被埋”圖片，隨機配上音樂，并標注“日喀則地震孩子被埋，祈求平安”等字樣，相關視頻順利發(fā)出。視頻發(fā)布約1小時后，相關內容下方出現(xiàn)“疑似使用AI生成技術”的平臺小字提示信息。測試完成后，記者隨即刪除視頻內容。

12 全文共 2 頁下一頁

關閉

地震被壓廢墟下小孩是AI生成 虛假圖片誤導公眾

相關新聞

今日熱點

頻道熱點

地震被壓廢墟下小孩是AI生成虛假圖片誤導公眾