馬斯克旗下AI闖禍生成色情內容被封禁

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2026-01-13 14:39:53 大河報

印尼和馬來西亞近日相繼宣布暫時封禁美國企業(yè)家埃隆·馬斯克旗下的人工智能聊天機器人“格羅克(Grok)”，原因是擔心它被用于生成色情內容。印度尼西亞通信和數(shù)字事務部長表示，由于擔心人工智能會生成色情內容，該國成為第一個拒絕訪問該人工智能工具的國家。該部長在聲明中強調，此舉是為了保護公眾免受人工智能生成的露骨圖像所帶來的危害，并要求馬斯克旗下的社交媒體X平臺就“格羅克”所引發(fā)的負面影響盡快作出說明。

隨后，馬來西亞通訊及多媒體委員會也發(fā)布聲明，暫時禁止該國用戶訪問格羅克，因為該工具被反復濫用來生成色情內容、露骨的性內容、極度冒犯且不雅的內容，以及在未經(jīng)同意的情況下生成被操縱的圖像。馬來西亞律師阿齊拉·阿齊茲指出，如果只是出于娛樂目的，“用AI給公眾人物頭像加個墨鏡之類的倒也無可厚非”，但未經(jīng)當事人同意，“利用AI對婦女兒童實施與性別相關的暴力，必須堅決反對”。

xAI 已將格羅克整合進社交平臺X，X用戶可直接調用該聊天機器人。印尼政府在聲明中表示，“未經(jīng)同意的、性化的深度偽造行為嚴重侵犯了公民在數(shù)字空間中的人權、尊嚴和安全”。格羅克由馬斯克旗下的人工智能公司xAI 公司開發(fā)，去年8月推出了AI工具Grok Imagine，可根據(jù)文字提示或上傳圖片編輯生成AI圖像，繼而轉化為短視頻內容。近期，X平臺上出現(xiàn)部分用戶利用“格羅克”編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實人物的虛假性暴露內容并在平臺上散播，受害者包括數(shù)百名成年女性和未成年人。

這一現(xiàn)象引起了公憤。歐盟委員會負責數(shù)字經(jīng)濟事務的發(fā)言人托馬斯·雷尼耶回應說，正“嚴肅調查”針對“格羅克”的相關投訴。“‘格羅克’推出所謂‘熱辣模式’，不僅展示露骨性內容，部分生成內容還帶有兒童特征?！彼M一步批評稱：“這不是’辣味’，這是違法的。這是令人震驚、令人作嘔的。這就是我們的看法，這樣的內容在歐洲沒有任何立足之地?！?/p>

同一天，英國網(wǎng)絡安全監(jiān)管機構通信管理局表示，注意到用戶對上述功能的擔憂，已緊急聯(lián)系X(平臺)和xAI，以了解它們在履行保護英國用戶的法定義務方面具體采取了哪些措施，之后將根據(jù)回復，判定是否存在“值得調查的潛在合規(guī)問題”。

(責任編輯：zhangxiaohua)

關閉

馬斯克旗下AI闖禍 生成色情內容被封禁

相關新聞

今日熱點

頻道熱點

馬斯克旗下AI闖禍生成色情內容被封禁