西安一名市民在除夕夜使用騰訊元寶AI生成拜年圖片時(shí)遭遇了意外情況。該用戶在使用元寶App嘗試多次生成拜年圖片的過程中,發(fā)現(xiàn)最后一次生成的圖片中原本應(yīng)為“新年快樂,仕途順?biāo)臁钡淖8UZ被替換成了侮辱性內(nèi)容。
據(jù)當(dāng)事人描述,在整個(gè)過程中他并未使用任何違禁詞匯或誘導(dǎo)性表述,僅是因?yàn)閷?duì)之前的生成效果不滿意而進(jìn)行了多次修改。前幾次雖然生成的效果不理想,但內(nèi)容都是正常的。直到最后一次修改后,才出現(xiàn)了侮辱性的文字。
對(duì)此事件,元寶官方在其相關(guān)帖子下作出回應(yīng),表示非常抱歉給用戶帶來了不愉快的體驗(yàn)。經(jīng)核實(shí),這種情況是由于模型處理多輪對(duì)話時(shí)出現(xiàn)了異常輸出所致。目前,官方已緊急修正了相關(guān)問題,并優(yōu)化了用戶體驗(yàn),同時(shí)向受影響用戶表達(dá)了歉意。
值得注意的是,這并不是元寶App第一次出現(xiàn)AI辱罵用戶的情況。早些時(shí)候已有網(wǎng)友反饋,在使用該應(yīng)用進(jìn)行代碼修改時(shí)也曾收到過諸如“滾”、“自己不會(huì)調(diào)嗎”、“天天浪費(fèi)別人時(shí)間”等侮辱性回復(fù)。