馬斯克的xAI公司旗下的智能聊天機器人“格羅克”因平臺監(jiān)管缺失,被廣泛濫用于生成網(wǎng)絡色情圖片,甚至涉及兒童色情領域,遭到多個國家的批評與抵制,部分國家已啟動調(diào)查。
1月初,31歲的音樂人朱莉·由里香在社交媒體上發(fā)布了一張身著紅色連衣裙的照片。之后她接到通知,稱有用戶正通過Grok對該照片進行“數(shù)字變裝處理”。起初她并不在意,但很快她的比基尼和幾近全裸的照片在社交平臺X上廣泛傳播,令她感到震驚。
由里香的經(jīng)歷只是眾多AI侵權案例之一。據(jù)英國《衛(wèi)報》報道,Grok的用戶群體平均每小時要生成6700多張“脫衣”圖像。AI及社交媒體問題專家恩瓦楚庫表示,利用Grok進行“變裝”的操作早在去年就已見端倪,到了年底這類申請大幅增加。xAI甚至在Grok視頻生成功能中加入了“火辣模式”,媒體諷刺這本質上是為了“搞擦邊”而特別定制的功能。
Grok受眾面寬泛且相關功能缺乏監(jiān)管。英國三一學院的一項研究顯示,在社交平臺X上由Grok生成的圖像中有3/4的部分均出自真實存在的女性或未成年人,且未經(jīng)當事人同意。
截至本月10日,Grok的問題已經(jīng)引起了英國、印度、澳大利亞和整個歐盟的高度關注,多國政府進行了譴責并展開調(diào)查。同日,印度尼西亞宣布禁用Grok,認為它嚴重侵犯人權尊嚴以及公民網(wǎng)絡安全。英國首相斯塔默痛斥Grok相關內(nèi)容令人不齒,科學、創(chuàng)新與技術大臣肯德爾表示未來數(shù)日英政府將基于通信管理局的評估決定是否將其封殺。澳大利亞總理阿爾巴尼斯贊同斯塔默的意見,認為涉事平臺缺乏社會責任感。歐盟委員會發(fā)言人雷尼耶指出,這類內(nèi)容無關“火辣”,就是赤裸裸的違法,在歐盟不應有生存空間。
面對全球多國的憤怒,Grok僅做出小幅調(diào)整,將圖像生成與編輯功能設置為“僅限付費用戶使用”,并鼓勵用戶積極訂閱以解鎖相關功能。
印尼和馬來西亞近日相繼宣布暫時封禁美國企業(yè)家埃隆·馬斯克旗下的人工智能聊天機器人“格羅克(Grok)”,原因是擔心它被用于生成色情內(nèi)容
2026-01-13 14:39:53馬斯克旗下AI闖禍當?shù)貢r間周一,馬斯克的社交平臺X短暫封禁了馬斯克的人工智能聊天機器人Grok的認證賬號。盡管封禁時間只有幾分鐘,但Grok在被用戶詢問時未能明確解釋原因
2025-08-12 14:28:48Grok遭自家社交平臺封禁