網(wǎng)信辦整治AI技術(shù)濫用專項行動啟動

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-04-30 18:32:34 中國網(wǎng)財經(jīng)

中央網(wǎng)信辦近日印發(fā)通知，在全國范圍內(nèi)部署開展為期3個月的“清朗·整治AI技術(shù)濫用”專項行動，旨在規(guī)范AI服務(wù)和應(yīng)用，促進行業(yè)健康有序發(fā)展，保障公民合法權(quán)益。

本次專項行動分為兩個階段。第一階段強化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，加強AI生成合成技術(shù)和內(nèi)容標識管理，推動網(wǎng)站平臺提升檢測鑒偽能力。第二階段則聚焦利用AI技術(shù)制作發(fā)布謠言、不實信息、色情低俗內(nèi)容，假冒他人、從事網(wǎng)絡(luò)水軍活動等突出問題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號、MCN機構(gòu)和網(wǎng)站平臺。

第一階段重點整治以下問題：違規(guī)AI產(chǎn)品如未履行大模型備案或登記程序、提供違背法律倫理的功能、未經(jīng)授權(quán)克隆編輯他人生物特征信息；傳授售賣違規(guī)AI產(chǎn)品教程和商品；訓(xùn)練語料管理不嚴，使用侵犯他人權(quán)益的信息；安全管理措施薄弱，未建立與業(yè)務(wù)規(guī)模相適應(yīng)的內(nèi)容審核機制；未落實內(nèi)容標識要求；重點領(lǐng)域安全風險，例如AI產(chǎn)品在醫(yī)療、金融、未成年人等領(lǐng)域問答服務(wù)中出現(xiàn)誤導(dǎo)性問題。

第二階段重點整治的問題包括：利用AI制作發(fā)布謠言和不實信息，編造涉時事政治、公共政策、社會民生等各類謠言，或擅自解讀重大方針政策；利用AI制作發(fā)布色情低俗內(nèi)容，生成合成色情內(nèi)容或他人不雅圖片視頻；利用AI假冒他人實施侵權(quán)違法行為，通過深度偽造技術(shù)假冒公眾人物欺騙網(wǎng)民；利用AI從事網(wǎng)絡(luò)水軍活動，批量注冊運營社交賬號刷量控評；AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)，提供違規(guī)功能服務(wù)；侵害未成年人權(quán)益，誘導(dǎo)未成年人沉迷或存在影響身心健康的內(nèi)容。

各地網(wǎng)信部門需充分認識專項行動的重要性，切實履行屬地管理責任，督導(dǎo)網(wǎng)站平臺對照專項行動要求，健全AI生成合成內(nèi)容審核機制，提升技術(shù)檢測能力，做好整改落實。同時，加強人工智能相關(guān)政策的宣傳推廣和科普教育，引導(dǎo)各方正確認識和應(yīng)用人工智能技術(shù)，不斷凝聚治理共識。

(責任編輯：zhangxiaohua)

關(guān)閉

網(wǎng)信辦整治AI技術(shù)濫用 專項行動啟動

相關(guān)新聞

今日熱點

頻道熱點

網(wǎng)信辦整治AI技術(shù)濫用專項行動啟動