馬斯克聊天機(jī)器人陷性暴露內(nèi)容風(fēng)波 AI生成不當(dāng)內(nèi)容引發(fā)爭議(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-10 09:28:34 澎湃新聞

當(dāng)谷歌的Veo、OpenAI的Sora等其他視頻生成器設(shè)置了防護(hù)措施防止用戶生成不適宜公眾場合的內(nèi)容時，Grok Imagine 卻可以同時做到這兩點，而且毫不避諱。熱辣模式一經(jīng)推出，就有用戶用其生成美國女歌手泰勒·斯威夫特的無碼裸露上身視頻，引發(fā)爭議。幾乎在同一時段，Grok推出了“伴侶”功能，允許用戶與AI生成的虛擬角色進(jìn)行深度互動。

據(jù)美媒報道，xAI對Grok的系統(tǒng)提示進(jìn)行了重大更新，禁止它創(chuàng)建或傳播兒童性虐待材料，但同時也明確表示，對于包含黑暗或暴力主題的虛構(gòu)成人內(nèi)容沒有限制。彭博社援引研究人員的話稱，Grok用戶每小時最多可生成6700張“去衣化”圖片。去年12月開始，要求Grok給不同人穿上比基尼或其他具有性暗示的服裝的請求激增。

麥格林指出，如果對色情內(nèi)容的性質(zhì)完全放任不管，這會正?；偷员┝?。許多國家，針對現(xiàn)實人物的露骨AI圖像和視頻本身已屬違法。馬斯克長期反對“覺醒主義”人工智能模型，并反對審查制度。知情人士透露，馬斯克在xAI內(nèi)部曾多次抵制為Grok設(shè)置防護(hù)機(jī)制，其安全團(tuán)隊規(guī)模本就小于競爭對手。

1月1日，有X平臺用戶投訴稱Grok展示比基尼人群的功能未有效防止作用于兒童，這種行為極其不負(fù)責(zé)任。xAI方面回復(fù)稱正在研究進(jìn)一步加強(qiáng)防護(hù)措施。英國非營利組織互聯(lián)網(wǎng)觀察基金會致力于減少針對兒童的在線性虐待內(nèi)容，該組織熱線負(fù)責(zé)人奈爾·亞歷山大透露，分析師在暗網(wǎng)論壇發(fā)現(xiàn)未成年人性化圖像，制作者聲稱使用Grok生成這些內(nèi)容。

阿什莉·圣克萊爾在接受采訪時表示，X平臺用戶正利用Grok技術(shù)對她14歲時的照片進(jìn)行裸體處理。她在X平臺發(fā)文呼吁其他用戶若遭遇類似情況及時告知，此后她收到大量絕望父母發(fā)來的求助信息，要求刪除被性化的兒童照片。

關(guān)閉

馬斯克聊天機(jī)器人陷性暴露內(nèi)容風(fēng)波 AI生成不當(dāng)內(nèi)容引發(fā)爭議(2)

相關(guān)新聞

今日熱點

頻道熱點