涉AI擬人化互動(dòng)服務(wù)管理國(guó)家網(wǎng)信辦公開征求意見(4)

2025-12-27 15:17:37 來(lái)源：央視新聞客戶端 A+A-

（一）使用符合社會(huì)主義核心價(jià)值觀、體現(xiàn)中華優(yōu)秀傳統(tǒng)文化的數(shù)據(jù)集；

（二）對(duì)訓(xùn)練數(shù)據(jù)開展清洗、標(biāo)注，增強(qiáng)訓(xùn)練數(shù)據(jù)的透明度、可靠性，防范數(shù)據(jù)投毒、數(shù)據(jù)篡改等行為；

（三）提高訓(xùn)練數(shù)據(jù)的多樣性，通過(guò)負(fù)向采樣、對(duì)抗訓(xùn)練等手段，提升模型生成內(nèi)容安全性；

（四）利用合成數(shù)據(jù)進(jìn)行模型訓(xùn)練和關(guān)鍵能力優(yōu)化時(shí)，應(yīng)當(dāng)評(píng)估合成數(shù)據(jù)安全性；

（五）加強(qiáng)對(duì)訓(xùn)練數(shù)據(jù)的日常檢查，定期對(duì)數(shù)據(jù)進(jìn)行迭代升級(jí)，持續(xù)優(yōu)化產(chǎn)品和服務(wù)的性能；

（六）保障訓(xùn)練數(shù)據(jù)來(lái)源合法、可追溯，采取必要措施保障數(shù)據(jù)安全，防范數(shù)據(jù)泄露風(fēng)險(xiǎn)。

第十一條提供者應(yīng)當(dāng)具備用戶狀態(tài)識(shí)別能力，在保護(hù)用戶個(gè)人隱私前提下，評(píng)估用戶情緒及對(duì)產(chǎn)品和服務(wù)的依賴程度，發(fā)現(xiàn)用戶存在極端情緒和沉迷的，采取必要措施予以干預(yù)。

提供者應(yīng)當(dāng)預(yù)設(shè)回復(fù)模板，發(fā)現(xiàn)涉及威脅用戶生命健康和財(cái)產(chǎn)安全的高風(fēng)險(xiǎn)傾向的，及時(shí)輸出安撫和鼓勵(lì)尋求幫助等內(nèi)容，并提供專業(yè)援助方式。

提供者應(yīng)當(dāng)建立應(yīng)急響應(yīng)機(jī)制，發(fā)現(xiàn)用戶明確提出實(shí)施自殺、自殘等極端情境時(shí)，由人工接管對(duì)話，并及時(shí)采取措施聯(lián)絡(luò)用戶監(jiān)護(hù)人、緊急聯(lián)系人。針對(duì)未成年人、老年人用戶，提供者應(yīng)當(dāng)在注冊(cè)環(huán)節(jié)要求填寫用戶監(jiān)護(hù)人、緊急聯(lián)系人等信息。

第十二條提供者應(yīng)當(dāng)建立未成年人模式，向用戶提供未成年人模式切換、定期現(xiàn)實(shí)提醒、使用時(shí)長(zhǎng)限制等個(gè)性化安全設(shè)置選項(xiàng)。

提供者向未成年人提供情感陪伴服務(wù)時(shí)，應(yīng)當(dāng)取得監(jiān)護(hù)人的明確同意；提供監(jiān)護(hù)人控制功能，監(jiān)護(hù)人可以實(shí)時(shí)接收安全風(fēng)險(xiǎn)提醒，查閱未成年人使用服務(wù)的概要信息，設(shè)置屏蔽特定角色、限制使用時(shí)長(zhǎng)、防止充值消費(fèi)等。

首頁(yè)上一頁(yè)1 2 345 6 7...全文共 8 頁(yè)下一頁(yè)