國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》于9月1日起正式施行。該辦法要求所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。
目前,我國已有490余款大模型在國家網(wǎng)信辦完成備案,240余款大模型在省級(jí)網(wǎng)信辦完成登記,生成式人工智能產(chǎn)品的用戶規(guī)模已達(dá)2.3億人。根據(jù)辦法,人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息。這些內(nèi)容的標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。平臺(tái)在內(nèi)容上架或上線時(shí)需進(jìn)行審核,核驗(yàn)生成合成內(nèi)容標(biāo)識(shí),并對(duì)未標(biāo)識(shí)或疑似生成內(nèi)容添加風(fēng)險(xiǎn)提示,以阻斷虛假信息擴(kuò)散。
該辦法與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接。服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí),相關(guān)材料可能涉及標(biāo)識(shí)的技術(shù)細(xì)節(jié),如水印算法、元數(shù)據(jù)格式、服務(wù)商編碼等。這些信息有助于執(zhí)法部門在發(fā)現(xiàn)違法內(nèi)容時(shí)快速識(shí)別內(nèi)容來源,追蹤到服務(wù)提供者或用戶。
全紅嬋、孫穎莎、王楚欽等奧運(yùn)冠軍的聲音被用于虛假帶貨視頻中,這些視頻通過AI技術(shù)克隆其聲音并截取其他視頻片段制作而成。繼AI“換臉”后,AI“盜聲”再度席卷社交平臺(tái)
2025-08-28 14:43:28AI生成合成內(nèi)容9月起須明確標(biāo)識(shí)