中央網(wǎng)信辦自2025年4月啟動“清朗·整治AI技術(shù)濫用”專項行動以來,針對AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等亂象展開重點整治。部署各地網(wǎng)信部門加大違規(guī)AI產(chǎn)品處置力度,切斷違規(guī)產(chǎn)品營銷引流渠道,督促重點網(wǎng)站平臺健全技術(shù)安全保障措施,推動生成合成內(nèi)容標(biāo)識加速落地。第一階段累計處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款,清理違法違規(guī)信息96萬余條,處置賬號3700余個,取得積極進展。
各地網(wǎng)信部門多措并舉,扎實推進工作。北京網(wǎng)信辦開設(shè)AI技術(shù)濫用治理舉報渠道,形成用戶標(biāo)記—平臺核查—聯(lián)合處置的工作模式,處理相關(guān)舉報26篇。上海網(wǎng)信辦推動標(biāo)識要求落地示范,組織4場法規(guī)宣貫和專題交流活動,覆蓋企業(yè)400余家,屬地內(nèi)重點企業(yè)已基本完成顯式標(biāo)識規(guī)范上線。浙江網(wǎng)信辦加大對屬地AI應(yīng)用和網(wǎng)站平臺的督導(dǎo)力度,各平臺共攔截清理各類違法違規(guī)信息及提問2550萬余條。江蘇網(wǎng)信辦聯(lián)合省通信管理局等部門排查AI風(fēng)險域名163個,封堵和取消接入域名18個。天津網(wǎng)信辦采用人工和技術(shù)結(jié)合的方式,開展大模型安全監(jiān)測,通報4批次14個風(fēng)險問題。
重點網(wǎng)站平臺也加強了AI技術(shù)濫用源頭治理。騰訊規(guī)范應(yīng)用程序管理,提高準(zhǔn)入門檻,優(yōu)化巡查機制,駁回、處置違規(guī)小程序、應(yīng)用程序等共計570余款。微博通過策略識別、用戶舉報等多渠道審核,累計處置違規(guī)內(nèi)容4800余條,并公布典型案例。通義平臺圍繞數(shù)據(jù)生命周期建立安全管理體系,在數(shù)據(jù)采集、訓(xùn)練、使用等階段加強訓(xùn)練語料管理。抖音建立紅藍對抗機制,模擬攻擊案例,修復(fù)潛在安全漏洞,優(yōu)化模型對虛假信息的識別能力。阿里、快手、稀宇等重點平臺積極推進元數(shù)據(jù)隱式標(biāo)識落地落實。小紅書在模型后置訓(xùn)練階段輸入專業(yè)領(lǐng)域數(shù)據(jù),提升模型對醫(yī)療、金融、未成年人等重點領(lǐng)域問題的理解能力。
接下來,中央網(wǎng)信辦將聚焦AI造謠、低俗內(nèi)容等7類突出問題,開展專項行動第二階段工作,構(gòu)建技術(shù)監(jiān)測體系,形成處置處罰規(guī)范,推動內(nèi)容標(biāo)識如期落地,形成長效工作機制,維護清朗網(wǎng)絡(luò)生態(tài),推動人工智能向善向好發(fā)展。
4月中旬以來,按照中央網(wǎng)信辦統(tǒng)一部署安排,北京市網(wǎng)信辦認真開展“清朗·整治短視頻領(lǐng)域惡意營銷亂象”專項行動
2025-07-07 13:20:11辟謠徐大爺是天壇公園健身圈的一名“網(wǎng)紅”,卻因AI技術(shù)遭遇了一場無妄之災(zāi)。他的視頻被不法分子盜用,并通過AI換臉技術(shù)將他變成了一個癌癥患者,還附帶了虛假廣告
2025-05-22 19:45:53視頻畫面身臨其境或是AI偽造