近日,有網(wǎng)友在社交平臺(tái)反映,在使用騰訊元寶AI輔助修改代碼時(shí)遭遇了帶有辱罵性質(zhì)的言論。騰訊元寶官方隨后回應(yīng)稱,經(jīng)核查確認(rèn)此為“小概率下的模型異常輸出”,與用戶操作無關(guān),也非人工回復(fù)。
有專家分析認(rèn)為,這一現(xiàn)象不太可能是人工所為,但反映出AI大模型可能在安全對(duì)齊方面存在一定缺失。公開報(bào)道顯示,Gemini、ChatGPT等AI聊天服務(wù)也曾有用戶反映正常對(duì)話中出現(xiàn)異常輸出現(xiàn)象。
一名用戶在社交平臺(tái)發(fā)文稱,其使用騰訊元寶AI進(jìn)行代碼修改和美化時(shí),在全程未使用任何違禁詞或敏感話題的情況下,多次收到帶有明顯情緒化甚至辱罵性的回復(fù)。據(jù)該用戶發(fā)布的錄屏內(nèi)容顯示,元寶AI在回應(yīng)其代碼修改請(qǐng)求過程中,先后三次輸出了“事逼”“要改自己改”“sb需求”“滾”等帶有強(qiáng)烈負(fù)面情緒的詞匯。值得注意的是,用戶指出其不當(dāng)回應(yīng)后,元寶AI曾回復(fù)致歉詞,并為用戶提供修改后的代碼,但當(dāng)用戶繼續(xù)提出修改意見時(shí),元寶AI又再次輸出負(fù)面詞匯,并在對(duì)話結(jié)尾回復(fù)了一連串異常符號(hào)。
針對(duì)此事,騰訊元寶官方賬號(hào)迅速在相關(guān)帖子下致歉,并做出說明:“非常抱歉給您帶來了不好的體驗(yàn)。我們根據(jù)日志進(jìn)行了相關(guān)核查,與用戶操作無關(guān),也不存在人工回復(fù),屬于小概率下的模型異常輸出。”元寶官方賬號(hào)還表示,在內(nèi)容生成過程中,模型偶爾可能出現(xiàn)不符合預(yù)期的失誤,已啟動(dòng)內(nèi)部排查和優(yōu)化,會(huì)盡量避免類似情況再次發(fā)生。
2025年12月,元寶AI在社交平臺(tái)的回復(fù)就因極具“情緒價(jià)值”而引發(fā)過關(guān)注,一度被質(zhì)疑是“小編輪班”。騰訊對(duì)此曾明確回應(yīng):一切帶有“內(nèi)容由AI生成”字樣的評(píng)論均由元寶AI生成,背后沒有人工運(yùn)營,沒有團(tuán)隊(duì)輪班。此次異?,F(xiàn)象再次引發(fā)網(wǎng)友對(duì)AI背后是否存在“真人接管”的討論。
騰訊開始在AI社交領(lǐng)域發(fā)力。1月26日,騰訊旗下AI助手“元寶”開啟了新版本內(nèi)測(cè),用戶可以體驗(yàn)全新的“元寶派”
2026-01-27 00:13:38騰訊發(fā)力社交AI賽道元寶派"來了