中央網(wǎng)信辦近日印發(fā)通知，在全國(guó)范圍內(nèi)部署開(kāi)展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，旨在規(guī)范AI服務(wù)和應(yīng)用，促進(jìn)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益。

本次專項(xiàng)行動(dòng)分為兩個(gè)階段。第一階段強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理，推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力。第二階段則聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容，假冒他人、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問(wèn)題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。

第一階段重點(diǎn)整治以下問(wèn)題：違規(guī)AI產(chǎn)品如未履行大模型備案或登記程序、提供違背法律倫理的功能、未經(jīng)授權(quán)克隆編輯他人生物特征信息；傳授售賣違規(guī)AI產(chǎn)品教程和商品；訓(xùn)練語(yǔ)料管理不嚴(yán)，使用侵犯他人權(quán)益的信息；安全管理措施薄弱，未建立與業(yè)務(wù)規(guī)模相適應(yīng)的內(nèi)容審核機(jī)制；未落實(shí)內(nèi)容標(biāo)識(shí)要求；重點(diǎn)領(lǐng)域安全風(fēng)險(xiǎn)，例如AI產(chǎn)品在醫(yī)療、金融、未成年人等領(lǐng)域問(wèn)答服務(wù)中出現(xiàn)誤導(dǎo)性問(wèn)題。

第二階段重點(diǎn)整治的問(wèn)題包括：利用AI制作發(fā)布謠言和不實(shí)信息，編造涉時(shí)事政治、公共政策、社會(huì)民生等各類謠言，或擅自解讀重大方針政策；利用AI制作發(fā)布色情低俗內(nèi)容，生成合成色情內(nèi)容或他人不雅圖片視頻；利用AI假冒他人實(shí)施侵權(quán)違法行為，通過(guò)深度偽造技術(shù)假冒公眾人物欺騙網(wǎng)民；利用AI從事網(wǎng)絡(luò)水軍活動(dòng)，批量注冊(cè)運(yùn)營(yíng)社交賬號(hào)刷量控評(píng)；AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)，提供違規(guī)功能服務(wù)；侵害未成年人權(quán)益，誘導(dǎo)未成年人沉迷或存在影響身心健康的內(nèi)容。

各地網(wǎng)信部門需充分認(rèn)識(shí)專項(xiàng)行動(dòng)的重要性，切實(shí)履行屬地管理責(zé)任，督導(dǎo)網(wǎng)站平臺(tái)對(duì)照專項(xiàng)行動(dòng)要求，健全AI生成合成內(nèi)容審核機(jī)制，提升技術(shù)檢測(cè)能力，做好整改落實(shí)。同時(shí)，加強(qiáng)人工智能相關(guān)政策的宣傳推廣和科普教育，引導(dǎo)各方正確認(rèn)識(shí)和應(yīng)用人工智能技術(shù)，不斷凝聚治理共識(shí)。