特斯拉CEO埃隆·馬斯克旗下的人工智能公司xAI近期備受關(guān)注。一方面,該公司在1月6日完成了200億美元的E輪融資;另一方面,其聊天機(jī)器人Grok因功能更新越過了危險(xiǎn)界限而引發(fā)爭議。Grok生成的女性及兒童露骨圖像在社交平臺(tái)傳播,導(dǎo)致數(shù)百名成年女性和未成年人成為受害者。
社交媒體和深度偽造研究員吉納維芙·吳分析了Grok在X平臺(tái)上的內(nèi)容,發(fā)現(xiàn)截至1月7日,每小時(shí)生成約7750張性暗示或裸露圖片。圖像人工智能篡改檢測(cè)公司Copyleaks表示,12月下旬,在Grok公開可訪問的圖片流中,平均每分鐘出現(xiàn)一張未經(jīng)同意的性暗示圖片。
盡管安全專家和科技評(píng)論人士譴責(zé)X上剝削性圖像和視頻泛濫,馬斯克卻在新年第一天就此事“開玩笑”,他在X平臺(tái)上要求Grok生成一張他自己身穿比基尼的照片,并對(duì)生成后的圖片評(píng)論“完美”。輿論風(fēng)暴愈演愈烈后,馬斯克3日發(fā)文稱:“任何利用Grok生成非法內(nèi)容者將承受與直接上傳非法內(nèi)容相同的后果”。
歐盟委員會(huì)發(fā)言人托馬斯·雷尼耶批評(píng)X和Grok,稱其輸出露骨及未經(jīng)同意的影像“是非法的、駭人聽聞和令人作嘔的”,并強(qiáng)調(diào)這種東西在歐洲沒有立足之地。英國、印度、馬來西亞等國的官員和監(jiān)管機(jī)構(gòu)紛紛著手開啟審查。
杜倫大學(xué)法學(xué)教授克萊爾·麥格林對(duì)Grok生成的影像深表擔(dān)憂,認(rèn)為這項(xiàng)技術(shù)鼓勵(lì)并助長了一些人非人性的沖動(dòng)。過去幾周以及現(xiàn)在的情況讓人感覺仿佛已踏出懸崖邊緣,正自由落體般墜入人性墮落的深淵。
兩年前,馬斯克宣布xAI推出首款人工智能模型Grok,該模型能實(shí)時(shí)連接社交媒體平臺(tái)X。去年8月,xAI向付費(fèi)用戶推出AI工具—Grok Imagine,可根據(jù)文字提示或上傳圖片編輯生成AI圖像,繼而轉(zhuǎn)化為短視頻內(nèi)容。這一工具提供四種預(yù)設(shè)模式:自定義、普通、趣味和“熱辣”,最后一種模式可生成成人內(nèi)容。
英國兩家監(jiān)管機(jī)構(gòu)于2月3日宣布,將從數(shù)據(jù)保護(hù)和平臺(tái)安全角度對(duì)人工智能聊天機(jī)器人“格羅克”濫用問題展開調(diào)查
2026-02-04 19:44:27英國調(diào)查馬斯克旗下AI聊天機(jī)器人風(fēng)波埃隆·馬斯克旗下的社交媒體平臺(tái)X宣布,不再允許其內(nèi)置的人工智能聊天機(jī)器人“格羅克”生成基于真人的偽造性暴露圖像,該限令適用于所有用戶,包括付費(fèi)用戶
2026-01-16 10:02:35X平臺(tái)不再允許Grok生成性暴露圖像