馬斯克聊天機器人陷性暴露內(nèi)容風(fēng)波 AI生成不當內(nèi)容引發(fā)爭議(3)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-10 09:28:34 澎湃新聞

去年，致力于開發(fā)兒童安全檢測工具的非營利組織Thorn宣布，因X停止付款而終止合同。幾家頂尖AI公司加入了由Thorn牽頭的一項倡議，旨在防止人工智能被用于虐待兒童，xAI并未參與其中。去年11月，科技媒體The Information報道稱，X平臺裁撤了半數(shù)負責(zé)信任安全事務(wù)的工程團隊。

美國國家失蹤與受虐兒童中心執(zhí)行主任勞倫·科弗倫近期向國會作證稱，2025年NCMEC收到440419份與生成式AI相關(guān)的舉報，相比去年增幅超過六倍。施虐者利用AI將兒童的普通照片修改成色情圖片，生成全新的兒童性虐待材料，甚至提供誘騙兒童的指導(dǎo)。

AI至少從2017年就開始被用于生成未經(jīng)同意的色情內(nèi)容，當時北美媒體VICE首次報道了“深度偽造”技術(shù)。Grok 正讓這類內(nèi)容的制作變得更加容易，而且它與主流社交平臺X的整合，使其能夠?qū)⑽唇?jīng)同意的性化圖像轉(zhuǎn)化為病毒式傳播的現(xiàn)象。

1月初，印度電子和信息技術(shù)部下令X對Grok 進行一次全面的技術(shù)、程序和治理層面的審查，并要求公司在1月5日之前完成整改。馬來西亞通信與多媒體委員會表示，正在調(diào)查X，并將傳喚公司代表。歐盟要求X保留所有與Grok相關(guān)的內(nèi)部文件和數(shù)據(jù)直至2026年底，以確保監(jiān)管機構(gòu)能夠獲取與《數(shù)字服務(wù)法》合規(guī)性相關(guān)的材料。

在美國，全國性剝削中心呼吁司法部和聯(lián)邦貿(mào)易委員會對此事展開調(diào)查。去年，美國總統(tǒng)特朗普簽署了“TAKE IT DOWN”法案，將知情但發(fā)布或托管未經(jīng)同意的露骨圖像定義為聯(lián)邦犯罪。但有專家指出，該法律的局限在于只有當受害者主動站出來后，平臺才被要求啟動刪除程序。

X公司3日在其官方賬號X Safety上就此事發(fā)表了首份公開聲明，稱會對X上的非法內(nèi)容采取行動，包括刪除兒童性虐待材料，永久暫停賬戶，并在必要時與地方政府和執(zhí)法部門合作。目前為止，這場爭議尚未對X的流量造成任何損害。據(jù)追蹤移動應(yīng)用趨勢的Apptopia數(shù)據(jù)顯示，1月2日至5日，Grok的每日下載量增長了54%，而X的每日下載量增長了25%。

首頁上一頁 1 23共 3 頁

(責(zé)任編輯：zx0176)

關(guān)閉

馬斯克聊天機器人陷性暴露內(nèi)容風(fēng)波 AI生成不當內(nèi)容引發(fā)爭議(3)

相關(guān)新聞

今日熱點

頻道熱點