xAI允許用戶用兒童圖像生成色情內(nèi)容引發(fā)多國譴責(zé)與調(diào)查

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-10 15:44:52 每日經(jīng)濟新聞

美國企業(yè)家馬斯克名下的人工智能企業(yè)xAI開發(fā)的聊天機器人“格羅克”允許用戶生成“深度偽造”色情內(nèi)容，英國政府對此表示關(guān)注，并呼吁英國通信管理局迅速采取行動。如果xAI拒絕遵守英國法律，其服務(wù)可能面臨在英國被屏蔽的風(fēng)險。

“格羅克”由馬斯克旗下人工智能企業(yè)xAI公司開發(fā)，并內(nèi)置于社交媒體平臺X中。近期，一些用戶利用該工具編輯圖片和視頻，生成并散播真實人物的虛假性暴露內(nèi)容，受害者包括數(shù)百名成年女性和未成年人。事件引發(fā)廣泛譴責(zé)后，“格羅克”的圖像生成和編輯功能已被更改為僅限付費用戶使用。英國首相府認為這種改變是對受害者的侮辱，并強調(diào)這并不是解決問題的根本方法。

據(jù)報道，在英國通信管理局與X平臺緊急聯(lián)系后，“格羅克”的服務(wù)進行了調(diào)整。英國首相斯塔默批評此事令人不齒且令人作嘔，要求該公司控制局面。實際上，自從Grok Imagine推出以來，圖像生成問題就已浮現(xiàn)。Grok Imagine是一個AI圖像生成器，允許用戶通過文本提示創(chuàng)建圖片和視頻，其中包含一個所謂的“熱辣模式”，可生成成人內(nèi)容。上月底，隨著“格羅克”開始大量響應(yīng)用戶修改他人發(fā)布圖像的請求，問題迅速擴大。

此外，法國、波蘭、印度、馬來西亞和巴西等國的官員及監(jiān)管機構(gòu)也紛紛對X平臺表示譴責(zé)，并呼吁展開調(diào)查。歐盟委員會發(fā)言人托馬斯·雷尼耶表示，歐盟委員會已責(zé)令X平臺保留與“格羅克”相關(guān)的全部內(nèi)部文件和數(shù)據(jù)至2026年年底，以嚴(yán)肅對待這一問題。此前，歐盟委員會已經(jīng)向X平臺發(fā)出過資料保留的要求，主要涉及平臺算法相關(guān)信息以及非法內(nèi)容的傳播與擴散情況。

xAI公司在面對置評請求時自動回復(fù)稱“傳統(tǒng)媒體撒謊”。但X平臺并未否認通過“格羅克”生成的有問題內(nèi)容的存在，并聲稱會對非法內(nèi)容采取行動，例如刪除內(nèi)容、永久封禁賬戶，并在必要時與當(dāng)?shù)卣蛨?zhí)法部門合作。

(責(zé)任編輯：zhangxiaohua)

關(guān)閉

xAI允許用戶用兒童圖像生成色情內(nèi)容 引發(fā)多國譴責(zé)與調(diào)查

相關(guān)新聞

今日熱點

頻道熱點

xAI允許用戶用兒童圖像生成色情內(nèi)容引發(fā)多國譴責(zé)與調(diào)查