近日,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》,自2025年9月1日起施行。有關部門負責人就該辦法回答了相關問題。
近年來,人工智能技術快速發(fā)展,為生成合成文字、圖片、音頻、視頻等提供了便利工具,海量信息得以快速生成并在網(wǎng)絡平臺傳播。這在促進經(jīng)濟社會發(fā)展的同時,也引發(fā)了生成合成技術濫用、虛假信息傳播擴散等問題,引起社會關注。為此,相關部門通過深入調(diào)研、廣泛征求意見和技術論證試點,制定了《標識辦法》,旨在規(guī)范人工智能生成合成內(nèi)容的標識活動,提醒用戶辨別虛假信息,明確服務主體的標識責任義務,規(guī)范內(nèi)容制作和傳播各環(huán)節(jié)的標識行為,提高安全性并推動人工智能健康有序發(fā)展。
《標識辦法》細化已有規(guī)定,解決關鍵問題,統(tǒng)籌發(fā)展和安全,并考慮管理要求與技術標準一體化。它重點解決“哪些是生成的”、“誰生成的”、“從哪里生成的”等問題,推動全流程安全管理,打造可信賴的人工智能技術。同時,考慮到技術難點和企業(yè)成本,創(chuàng)新提出文本符號標識、音頻節(jié)奏標識、文件元數(shù)據(jù)標識等低成本實施方法。強制性國家標準《網(wǎng)絡安全技術 人工智能生成合成內(nèi)容標識方法》同步發(fā)布,以更好地指導相關主體規(guī)范開展標識活動。
《標識辦法》適用于符合相關規(guī)定的網(wǎng)絡信息服務提供者開展人工智能生成合成內(nèi)容標識活動。對于特定活動對內(nèi)容標識另有規(guī)定的,從其規(guī)定?!稑俗R辦法》主要從立法層面提出管理要求,明確生成合成內(nèi)容制作傳播各主體的責任義務。國家標準則提出具體實施方式和操作方法,兩者同步推出,于2025年9月1日同步實施。
標準支撐《標識辦法》,對人工智能生成合成內(nèi)容服務提供者提出了顯式標識和隱式標識的具體要求,包括在文本、圖片、音頻、視頻、虛擬場景等內(nèi)容中添加文字、角標、語音、節(jié)奏等顯式標識,在文件中添加元數(shù)據(jù)隱式標識。此外,還設置了預留字段用于記錄標識完整性、內(nèi)容一致性等安全防護信息。
《標識辦法》明確服務提供者需對生成合成內(nèi)容添加顯式標識,確保文件中含有滿足要求的顯式標識,并在文件元數(shù)據(jù)中添加隱式標識。互聯(lián)網(wǎng)應用程序分發(fā)平臺在審核時需核驗生成合成內(nèi)容標識相關材料。用戶主動要求提供未添加顯式標識內(nèi)容時,網(wǎng)站平臺可在用戶協(xié)議中明確責任義務并依法留存相關日志信息后提供。用戶在后續(xù)使用過程中需遵守相關規(guī)定,主動聲明生成合成情況并添加顯式標識后方可面向公眾發(fā)布和傳播。
《標識辦法》還禁止任何組織和個人惡意刪除、篡改、偽造、隱匿生成合成內(nèi)容標識,不得為他人實施上述惡意行為提供工具或服務,不得通過不正當標識手段損害他人合法權(quán)益。設定6個月左右的施行過渡期,以便企業(yè)充分理解和準備。