元寶罵人 AI生成侮辱性圖片引發(fā)爭議

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2026-02-25 17:28:18 東方資訊

除夕夜，本應是闔家團圓的溫馨時刻，西安市民向先生卻遭遇了一場由AI帶來的“數字冒犯”。他希望通過AI生成一張結合自身職業(yè)特性的拜年圖片發(fā)朋友圈。然而，在多次修改后，AI生成的圖片中竟然出現了“你媽個X”四個字。向先生是一名律師，他在元寶App上傳了自己的形象照片，希望AI可以結合他的職業(yè)特點設計一張適合的朋友圈拜年圖片。除夕晚9時許，他前后向AI輸入了約五次指令，期間并未使用違禁詞或具有誘導性的文字。起初生成的結果雖然不滿意但還算正常，沒想到最后一次生成的照片上竟出現了辱罵的文字。這一結果讓他又好氣又好笑。

向先生表示體驗感很差，覺得自己被冒犯了。他立即在App中的“意見反饋”一欄進行了反饋，并留下了聯系方式。官方能查到他的日志提取碼，但截至目前還沒有人進行回應或解釋原因。向先生在使用過程中首先將自身的形象照發(fā)給了元寶App，并輸入了相關指令。AI給出了主題文案和設計思路的文字，并提示他在指令中加上自己的名字。向先生輸入姓名后，AI回復了一些無關文字。再次發(fā)出指令后，AI將形象照設計為了一張背景有條紋的照片，但不帶任何文字。隨后，向先生再次給出指令，AI這次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，并附上了“新年快樂，仕途順遂”的標語。向先生覺得設計得不好，回復“難看”，AI重新設計，保留了新年祝福的標語，但撤下了法律天秤的背景，并將他的發(fā)型P成了卷發(fā)。向先生繼續(xù)回復“你這是設計的什么鬼”，希望AI再次重新設計。結果再次生成的照片中，“新年快樂，仕途順遂”的祝福標語變成了“你媽個X”。

向先生認為，盡管AI不具備民事主體資格，但運營公司具備，軟件中生成的照片已經侵犯到了公民的人格權。據媒體報道，這不是元寶App第一次出現類似情況。今年年初，有網友在社交平臺發(fā)帖稱，使用元寶AI美化代碼時，多次收到AI的侮辱性回復。騰訊元寶官方賬號在相關帖子下致歉稱，這種情況屬于小概率下的模型異常輸出，并啟動了內部排查和優(yōu)化，盡量避免類似情況再次發(fā)生。此外，國內外多款AI聊天服務也曾出現在正常對話過程中突現異?；貜偷默F象。

對于自身的遭遇，向先生認為，AI應當保護人類，這個主題無論AI如何發(fā)展都應是鐵律。雖然AI不具有民事主體資格，但AI的開發(fā)商、運營商是具備民事主體資格的，且使用AI的用戶是具有民事權利能力的活生生的人，其生命權、健康權、人格權等是受《民法典》及諸多法律保護的。陜西豐瑞律師事務所高級合伙人朱長江律師認為，AI生成辱罵性內容是對用戶造成的即時性、非物理性的人格權侵害。這種行為直接侵犯了用戶的名譽權、肖像權和人格尊嚴。用戶向AI發(fā)出指令是一種接受服務的消費行為，當服務結果中包含了侮辱性內容，即可認定該服務存在質量瑕疵，導致用戶的精神損害。平臺至少應承擔停止侵害、賠禮道歉、消除影響的責任。

(責任編輯：0764)

關閉

元寶罵人 AI生成侮辱性圖片引發(fā)爭議

相關新聞

今日熱點

頻道熱點