电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

騰訊元寶AI罕見辱罵用戶，官方緊急致歉 模型異常引關(guān)注(3)

關(guān)鍵詞：
2026-01-06 13:33:26  深圳新聞網(wǎng)

多位從業(yè)人士均認為，人類無法窮舉所有的有害輸出場景，“突發(fā)異?！边@一現(xiàn)象并非某款大模型特有。要盡可能避免此類現(xiàn)象的發(fā)生，除外部的過濾與檢測機制之外，探索大模型的內(nèi)生安全防御機制，如建立多維度全類別的安全合規(guī)監(jiān)測平臺、構(gòu)建高質(zhì)量安全微調(diào)數(shù)據(jù)集；基于細化安全規(guī)則的RAG，使模型像人類一樣學習安全本質(zhì)；以及針對危險概念的擦除等方法，都是值得深入研究的方向。

為了促進人工智能擬人化互動服務健康發(fā)展和規(guī)范應用，國家互聯(lián)網(wǎng)信息辦公室起草了《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》，正向社會公開征求意見。其中提出，擬人化互動服務提供者應當在擬人化互動服務全生命周期履行安全責任，明確設計、運行、升級、終止服務等各階段安全要求，保證安全措施與服務功能同步設計、同步使用，提升內(nèi)生安全水平，加強運行階段安全監(jiān)測和風險評估，及時發(fā)現(xiàn)糾正系統(tǒng)偏差、處置安全問題，依法留存網(wǎng)絡日志；且應當具備心理健康保護、情感邊界引導、依賴風險預警等安全能力。

此次事件也提醒行業(yè)，在推進AI應用落地的過程中，需持續(xù)加強模型安全建設，完善異常輸出監(jiān)測與處置機制，以保障用戶體驗與技術(shù)應用的可靠性。

(責任編輯：zhangxiaohua)
關(guān)閉

我國完成首次載人飛船返回艙海上搜索回收任務 積累重要經(jīng)驗

我國完成首次載人飛船返回艙海上搜索回收任務2026-02-11 15:14:07

可口可樂去年賺131億美元 凈利潤增長23%

可口可樂去年賺131億美元2026-02-11 15:12:25

多方回應3人往江里扔亞克力板！

多方回應3人往江里扔亞克力板2026-02-11 15:10:16

微博之夜臺下也這么精彩 多元力量匯聚盛典

微博之夜臺下也這么精彩2026-02-11 15:05:18

美官員證實：美國正計劃向尼日利亞派遣約200名士兵協(xié)助打擊武裝分子

美官員證實,美國正計劃向尼日利亞派遣約200名士兵2026-02-11 11:29:57

六組數(shù)據(jù)讀懂大國消費新氣象 消費趨勢亮點紛呈

六組數(shù)據(jù)讀懂大國消費新氣象2026-02-11 15:03:50

伊朗外長：內(nèi)塔尼亞胡試圖將美國拖入同伊朗的戰(zhàn)爭 和平外交受挫

伊朗外長,內(nèi)塔尼亞胡試圖將美國拖入同伊朗的戰(zhàn)爭2026-02-11 11:39:25

愛潑斯坦羞辱性展示女孩視頻曝光 女孩局促不安疑遭不當觸摸

愛潑斯坦羞辱性展示女孩視頻曝光2026-02-11 14:18:02

為小哥點贊！溫州送水小哥拾金不昧拒收酬謝

溫州送水小哥拾金不昧拒收酬謝2026-02-11 15:07:44

美歡迎臺當局天價軍購 國臺辦回應 堅決反對干涉內(nèi)政

美歡迎臺當局天價軍購國臺辦回應2026-02-11 13:17:55

賴清德祝賀高市早苗 國臺辦發(fā)聲 敦促日方恪守一中原則

賴清德祝賀高市早苗國臺辦發(fā)聲2026-02-11 13:58:51

阿聯(lián)酋特警挑戰(zhàn)賽為啥讓印度破防 中國女特警驚艷全場

阿聯(lián)酋特警挑戰(zhàn)賽為啥讓印度破防2026-02-11 11:27:37

多方回應3人往江里扔亞克力板！

多方回應3人往江里扔亞克力板2026-02-11 15:10:16

商務部：做好春節(jié)市場保供 多舉措確保供應穩(wěn)定

商務部,做好春節(jié)市場保供2026-02-11 15:01:43

加拿大發(fā)生槍擊事件致10死 高中內(nèi)突發(fā)悲劇

加拿大發(fā)生槍擊事件致10死2026-02-11 10:47:27

谷愛凌，確實更強了！谷愛凌的硬仗還在后面

谷愛凌的硬仗還在后面2026-02-11 15:00:02

解放軍連續(xù)5天南海巡航釋放什么信號 堅定維護主權(quán)與安全

解放軍連續(xù)5天南海巡航釋放什么信號2026-02-11 14:53:08

國臺辦：臺當局膽敢在春節(jié)挑事必擔惡果 警告民進黨勿擾祥和節(jié)日

國臺辦,臺當局膽敢在春節(jié)挑事必擔惡果2026-02-11 13:15:07

新一輪中印戰(zhàn)略對話舉行！

新一輪中印戰(zhàn)略對話舉行2026-02-11 11:25:16

大圓桌走紅餐廳稱過年期間已訂滿 可坐55人大圓桌餐廳年夜飯2月前訂出

大圓桌走紅餐廳稱過年期間已訂滿2026-02-11 14:56:51

法財長急降調(diào)對華一刀切不太行 呼吁精準措施

法財長急降調(diào)對華一刀切不太行2026-02-11 10:23:05

五口之家賣掉房產(chǎn)租房住 35歲以上租房族越來越多

五口之家賣掉房產(chǎn)租房住2026-02-11 14:57:53

重要突破！中國航天向載人登月再邁近 長征十號火箭點火成功

重要突破,中國航天向載人登月再邁近2026-02-11 11:42:01

東部戰(zhàn)區(qū)空軍與外軍空中較量 光影記錄搏擊長空

東部戰(zhàn)區(qū)空軍與外軍空中較量2026-02-11 14:28:27

可口可樂去年賺131億美元 凈利潤增長23%

可口可樂去年賺131億美元2026-02-11 15:12:25

052D版海警艦性能如何 綜合作戰(zhàn)能力強悍

052D版海警艦性能如何2026-02-11 13:51:27

暴漲50%空頭死扛不退！泡泡瑪特正面臨一場史詩級“逼空”風暴？盲盒神話褪色背后

暴漲50%空頭死扛不退,泡泡瑪特正面臨一場史詩級逼空風暴2026-02-11 15:08:14

江淮汽車35億元定增落地 知名投資人加盟助力轉(zhuǎn)型

江淮汽車35億元定增落地2026-02-11 15:09:43

美媒稱鐵拳軍演就是針對中國 強化奪島能力

美媒稱鐵拳軍演就是針對中國2026-02-11 11:32:35

愛潑斯坦羞辱性展示女孩曝光 視頻揭示不當行為

愛潑斯坦羞辱性展示女孩曝光2026-02-11 15:00:37

多輛陌生車為孤獨的婚車陪跑 溫暖陪伴見證幸福旅程

多輛陌生車為孤獨的婚車陪跑2026-02-11 14:58:26

女子將敬酒服穿臟后焊接吊牌退貨 商家：學的肯定是電焊專業(yè)

女子穿臟敬酒服后焊吊牌退貨2026-02-11 15:03:20

我國完成首次載人飛船返回艙海上搜索回收任務 積累重要經(jīng)驗

我國完成首次載人飛船返回艙海上搜索回收任務2026-02-11 15:14:07

相關(guān)新聞