對可能導致混淆的AI內(nèi)容必須加標識新規(guī)推動透明度

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-03-14 20:32:31 極目新聞

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》，自2025年9月1日起施行。有關部門負責人就該辦法回答了相關問題。

近年來，人工智能技術快速發(fā)展，為生成合成文字、圖片、音頻、視頻等提供了便利工具，海量信息得以快速生成并在網(wǎng)絡平臺傳播。這在促進經(jīng)濟社會發(fā)展的同時，也引發(fā)了生成合成技術濫用、虛假信息傳播擴散等問題，引起社會關注。為此，相關部門通過深入調(diào)研、廣泛征求意見和技術論證試點，制定了《標識辦法》，旨在規(guī)范人工智能生成合成內(nèi)容的標識活動，提醒用戶辨別虛假信息，明確服務主體的標識責任義務，規(guī)范內(nèi)容制作和傳播各環(huán)節(jié)的標識行為，提高安全性并推動人工智能健康有序發(fā)展。

《標識辦法》細化已有規(guī)定，解決關鍵問題，統(tǒng)籌發(fā)展和安全，并考慮管理要求與技術標準一體化。它重點解決“哪些是生成的”、“誰生成的”、“從哪里生成的”等問題，推動全流程安全管理，打造可信賴的人工智能技術。同時，考慮到技術難點和企業(yè)成本，創(chuàng)新提出文本符號標識、音頻節(jié)奏標識、文件元數(shù)據(jù)標識等低成本實施方法。強制性國家標準《網(wǎng)絡安全技術人工智能生成合成內(nèi)容標識方法》同步發(fā)布，以更好地指導相關主體規(guī)范開展標識活動。

《標識辦法》適用于符合相關規(guī)定的網(wǎng)絡信息服務提供者開展人工智能生成合成內(nèi)容標識活動。對于特定活動對內(nèi)容標識另有規(guī)定的，從其規(guī)定?！稑俗R辦法》主要從立法層面提出管理要求，明確生成合成內(nèi)容制作傳播各主體的責任義務。國家標準則提出具體實施方式和操作方法，兩者同步推出，于2025年9月1日同步實施。

標準支撐《標識辦法》，對人工智能生成合成內(nèi)容服務提供者提出了顯式標識和隱式標識的具體要求，包括在文本、圖片、音頻、視頻、虛擬場景等內(nèi)容中添加文字、角標、語音、節(jié)奏等顯式標識，在文件中添加元數(shù)據(jù)隱式標識。此外，還設置了預留字段用于記錄標識完整性、內(nèi)容一致性等安全防護信息。

《標識辦法》明確服務提供者需對生成合成內(nèi)容添加顯式標識，確保文件中含有滿足要求的顯式標識，并在文件元數(shù)據(jù)中添加隱式標識。互聯(lián)網(wǎng)應用程序分發(fā)平臺在審核時需核驗生成合成內(nèi)容標識相關材料。用戶主動要求提供未添加顯式標識內(nèi)容時，網(wǎng)站平臺可在用戶協(xié)議中明確責任義務并依法留存相關日志信息后提供。用戶在后續(xù)使用過程中需遵守相關規(guī)定，主動聲明生成合成情況并添加顯式標識后方可面向公眾發(fā)布和傳播。

《標識辦法》還禁止任何組織和個人惡意刪除、篡改、偽造、隱匿生成合成內(nèi)容標識，不得為他人實施上述惡意行為提供工具或服務，不得通過不正當標識手段損害他人合法權(quán)益。設定6個月左右的施行過渡期，以便企業(yè)充分理解和準備。

(責任編輯：張佳鑫 0764)

關閉

對可能導致混淆的AI內(nèi)容必須加標識 新規(guī)推動透明度

相關新聞

今日熱點

頻道熱點

對可能導致混淆的AI內(nèi)容必須加標識新規(guī)推動透明度