網(wǎng)信辦專項整治AI技術(shù)濫用推進標(biāo)識落地凈化網(wǎng)絡(luò)空間

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-06-20 17:54:56 央視網(wǎng)

中央網(wǎng)信辦自2025年4月啟動“清朗·整治AI技術(shù)濫用”專項行動以來，針對AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等亂象展開重點整治。部署各地網(wǎng)信部門加大違規(guī)AI產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營銷引流渠道，督促重點網(wǎng)站平臺健全技術(shù)安全保障措施，推動生成合成內(nèi)容標(biāo)識加速落地。第一階段累計處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個，取得積極進展。

各地網(wǎng)信部門多措并舉，扎實推進工作。北京網(wǎng)信辦開設(shè)AI技術(shù)濫用治理舉報渠道，形成用戶標(biāo)記—平臺核查—聯(lián)合處置的工作模式，處理相關(guān)舉報26篇。上海網(wǎng)信辦推動標(biāo)識要求落地示范，組織4場法規(guī)宣貫和專題交流活動，覆蓋企業(yè)400余家，屬地內(nèi)重點企業(yè)已基本完成顯式標(biāo)識規(guī)范上線。浙江網(wǎng)信辦加大對屬地AI應(yīng)用和網(wǎng)站平臺的督導(dǎo)力度，各平臺共攔截清理各類違法違規(guī)信息及提問2550萬余條。江蘇網(wǎng)信辦聯(lián)合省通信管理局等部門排查AI風(fēng)險域名163個，封堵和取消接入域名18個。天津網(wǎng)信辦采用人工和技術(shù)結(jié)合的方式，開展大模型安全監(jiān)測，通報4批次14個風(fēng)險問題。

重點網(wǎng)站平臺也加強了AI技術(shù)濫用源頭治理。騰訊規(guī)范應(yīng)用程序管理，提高準(zhǔn)入門檻，優(yōu)化巡查機制，駁回、處置違規(guī)小程序、應(yīng)用程序等共計570余款。微博通過策略識別、用戶舉報等多渠道審核，累計處置違規(guī)內(nèi)容4800余條，并公布典型案例。通義平臺圍繞數(shù)據(jù)生命周期建立安全管理體系，在數(shù)據(jù)采集、訓(xùn)練、使用等階段加強訓(xùn)練語料管理。抖音建立紅藍對抗機制，模擬攻擊案例，修復(fù)潛在安全漏洞，優(yōu)化模型對虛假信息的識別能力。阿里、快手、稀宇等重點平臺積極推進元數(shù)據(jù)隱式標(biāo)識落地落實。小紅書在模型后置訓(xùn)練階段輸入專業(yè)領(lǐng)域數(shù)據(jù)，提升模型對醫(yī)療、金融、未成年人等重點領(lǐng)域問題的理解能力。

接下來，中央網(wǎng)信辦將聚焦AI造謠、低俗內(nèi)容等7類突出問題，開展專項行動第二階段工作，構(gòu)建技術(shù)監(jiān)測體系，形成處置處罰規(guī)范，推動內(nèi)容標(biāo)識如期落地，形成長效工作機制，維護清朗網(wǎng)絡(luò)生態(tài)，推動人工智能向善向好發(fā)展。

(責(zé)任編輯：zhangxiaohua)

關(guān)閉

網(wǎng)信辦專項整治AI技術(shù)濫用 推進標(biāo)識落地凈化網(wǎng)絡(luò)空間

相關(guān)新聞

今日熱點

頻道熱點

網(wǎng)信辦專項整治AI技術(shù)濫用推進標(biāo)識落地凈化網(wǎng)絡(luò)空間