元寶罵人 AI生成侮辱性圖片引發(fā)爭議

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2026-02-25 17:28:18 東方資訊

除夕夜，本應是闔家團圓的溫馨時刻，西安市民向先生卻遭遇了一場由AI帶來的“數(shù)字冒犯”。他希望通過AI生成一張結(jié)合自身職業(yè)特性的拜年圖片發(fā)朋友圈。然而，在多次修改后，AI生成的圖片中竟然出現(xiàn)了“你媽個X”四個字。向先生是一名律師，他在元寶App上傳了自己的形象照片，希望AI可以結(jié)合他的職業(yè)特點設計一張適合的朋友圈拜年圖片。除夕晚9時許，他前后向AI輸入了約五次指令，期間并未使用違禁詞或具有誘導性的文字。起初生成的結(jié)果雖然不滿意但還算正常，沒想到最后一次生成的照片上竟出現(xiàn)了辱罵的文字。這一結(jié)果讓他又好氣又好笑。

向先生表示體驗感很差，覺得自己被冒犯了。他立即在App中的“意見反饋”一欄進行了反饋，并留下了聯(lián)系方式。官方能查到他的日志提取碼，但截至目前還沒有人進行回應或解釋原因。向先生在使用過程中首先將自身的形象照發(fā)給了元寶App，并輸入了相關指令。AI給出了主題文案和設計思路的文字，并提示他在指令中加上自己的名字。向先生輸入姓名后，AI回復了一些無關文字。再次發(fā)出指令后，AI將形象照設計為了一張背景有條紋的照片，但不帶任何文字。隨后，向先生再次給出指令，AI這次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，并附上了“新年快樂，仕途順遂”的標語。向先生覺得設計得不好，回復“難看”，AI重新設計，保留了新年祝福的標語，但撤下了法律天秤的背景，并將他的發(fā)型P成了卷發(fā)。向先生繼續(xù)回復“你這是設計的什么鬼”，希望AI再次重新設計。結(jié)果再次生成的照片中，“新年快樂，仕途順遂”的祝福標語變成了“你媽個X”。

向先生認為，盡管AI不具備民事主體資格，但運營公司具備，軟件中生成的照片已經(jīng)侵犯到了公民的人格權(quán)。據(jù)媒體報道，這不是元寶App第一次出現(xiàn)類似情況。今年年初，有網(wǎng)友在社交平臺發(fā)帖稱，使用元寶AI美化代碼時，多次收到AI的侮辱性回復。騰訊元寶官方賬號在相關帖子下致歉稱，這種情況屬于小概率下的模型異常輸出，并啟動了內(nèi)部排查和優(yōu)化，盡量避免類似情況再次發(fā)生。此外，國內(nèi)外多款AI聊天服務也曾出現(xiàn)在正常對話過程中突現(xiàn)異?；貜偷默F(xiàn)象。

12 全文共 2 頁下一頁

關閉

元寶罵人 AI生成侮辱性圖片引發(fā)爭議

相關新聞

今日熱點

頻道熱點