騰訊元寶AI罕見辱罵用戶，官方緊急致歉模型異常引關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-06 13:33:26 深圳新聞網(wǎng)

近日，有網(wǎng)友在社交平臺(tái)反映，在使用騰訊元寶AI輔助修改代碼時(shí)遭遇了帶有辱罵性質(zhì)的言論。騰訊元寶官方隨后回應(yīng)稱，經(jīng)核查確認(rèn)此為“小概率下的模型異常輸出”，與用戶操作無關(guān)，也非人工回復(fù)。

有專家分析認(rèn)為，這一現(xiàn)象不太可能是人工所為，但反映出AI大模型可能在安全對(duì)齊方面存在一定缺失。公開報(bào)道顯示，Gemini、ChatGPT等AI聊天服務(wù)也曾有用戶反映正常對(duì)話中出現(xiàn)異常輸出現(xiàn)象。

一名用戶在社交平臺(tái)發(fā)文稱，其使用騰訊元寶AI進(jìn)行代碼修改和美化時(shí)，在全程未使用任何違禁詞或敏感話題的情況下，多次收到帶有明顯情緒化甚至辱罵性的回復(fù)。據(jù)該用戶發(fā)布的錄屏內(nèi)容顯示，元寶AI在回應(yīng)其代碼修改請(qǐng)求過程中，先后三次輸出了“事逼”“要改自己改”“sb需求”“滾”等帶有強(qiáng)烈負(fù)面情緒的詞匯。值得注意的是，用戶指出其不當(dāng)回應(yīng)后，元寶AI曾回復(fù)致歉詞，并為用戶提供修改后的代碼，但當(dāng)用戶繼續(xù)提出修改意見時(shí)，元寶AI又再次輸出負(fù)面詞匯，并在對(duì)話結(jié)尾回復(fù)了一連串異常符號(hào)。

針對(duì)此事，騰訊元寶官方賬號(hào)迅速在相關(guān)帖子下致歉，并做出說明：“非常抱歉給您帶來了不好的體驗(yàn)。我們根據(jù)日志進(jìn)行了相關(guān)核查，與用戶操作無關(guān)，也不存在人工回復(fù)，屬于小概率下的模型異常輸出。”元寶官方賬號(hào)還表示，在內(nèi)容生成過程中，模型偶爾可能出現(xiàn)不符合預(yù)期的失誤，已啟動(dòng)內(nèi)部排查和優(yōu)化，會(huì)盡量避免類似情況再次發(fā)生。

2025年12月，元寶AI在社交平臺(tái)的回復(fù)就因極具“情緒價(jià)值”而引發(fā)過關(guān)注，一度被質(zhì)疑是“小編輪班”。騰訊對(duì)此曾明確回應(yīng)：一切帶有“內(nèi)容由AI生成”字樣的評(píng)論均由元寶AI生成，背后沒有人工運(yùn)營，沒有團(tuán)隊(duì)輪班。此次異?，F(xiàn)象再次引發(fā)網(wǎng)友對(duì)AI背后是否存在“真人接管”的討論。

12 3 全文共 3 頁下一頁

關(guān)閉

騰訊元寶AI罕見辱罵用戶，官方緊急致歉 模型異常引關(guān)注

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

騰訊元寶AI罕見辱罵用戶，官方緊急致歉模型異常引關(guān)注