中央網(wǎng)信辦近日印發(fā)通知,在全國(guó)范圍內(nèi)部署開(kāi)展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng),旨在規(guī)范AI服務(wù)和應(yīng)用,促進(jìn)行業(yè)健康有序發(fā)展,保障公民合法權(quán)益。
本次專項(xiàng)行動(dòng)分為兩個(gè)階段。第一階段強(qiáng)化AI技術(shù)源頭治理,清理整治違規(guī)AI應(yīng)用程序,加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理,推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力。第二階段則聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容,假冒他人、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問(wèn)題,集中清理相關(guān)違法不良信息,處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。
第一階段重點(diǎn)整治以下問(wèn)題:違規(guī)AI產(chǎn)品如未履行大模型備案或登記程序、提供違背法律倫理的功能、未經(jīng)授權(quán)克隆編輯他人生物特征信息;傳授售賣違規(guī)AI產(chǎn)品教程和商品;訓(xùn)練語(yǔ)料管理不嚴(yán),使用侵犯他人權(quán)益的信息;安全管理措施薄弱,未建立與業(yè)務(wù)規(guī)模相適應(yīng)的內(nèi)容審核機(jī)制;未落實(shí)內(nèi)容標(biāo)識(shí)要求;重點(diǎn)領(lǐng)域安全風(fēng)險(xiǎn),例如AI產(chǎn)品在醫(yī)療、金融、未成年人等領(lǐng)域問(wèn)答服務(wù)中出現(xiàn)誤導(dǎo)性問(wèn)題。
第二階段重點(diǎn)整治的問(wèn)題包括:利用AI制作發(fā)布謠言和不實(shí)信息,編造涉時(shí)事政治、公共政策、社會(huì)民生等各類謠言,或擅自解讀重大方針政策;利用AI制作發(fā)布色情低俗內(nèi)容,生成合成色情內(nèi)容或他人不雅圖片視頻;利用AI假冒他人實(shí)施侵權(quán)違法行為,通過(guò)深度偽造技術(shù)假冒公眾人物欺騙網(wǎng)民;利用AI從事網(wǎng)絡(luò)水軍活動(dòng),批量注冊(cè)運(yùn)營(yíng)社交賬號(hào)刷量控評(píng);AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī),提供違規(guī)功能服務(wù);侵害未成年人權(quán)益,誘導(dǎo)未成年人沉迷或存在影響身心健康的內(nèi)容。
各地網(wǎng)信部門需充分認(rèn)識(shí)專項(xiàng)行動(dòng)的重要性,切實(shí)履行屬地管理責(zé)任,督導(dǎo)網(wǎng)站平臺(tái)對(duì)照專項(xiàng)行動(dòng)要求,健全AI生成合成內(nèi)容審核機(jī)制,提升技術(shù)檢測(cè)能力,做好整改落實(shí)。同時(shí),加強(qiáng)人工智能相關(guān)政策的宣傳推廣和科普教育,引導(dǎo)各方正確認(rèn)識(shí)和應(yīng)用人工智能技術(shù),不斷凝聚治理共識(shí)。
近期,國(guó)家網(wǎng)信辦會(huì)同金融管理部門依法處置一批散布資本市場(chǎng)不實(shí)信息、開(kāi)展非法薦股、炒作虛擬貨幣交易等的賬號(hào)、網(wǎng)站。
2025-05-27 10:20:29辟謠