生成式人工智能技術(shù)的突破性進(jìn)展正推動(dòng)AI視頻制作加速普及，在提升創(chuàng)作效率、活化歷史記憶等方面展現(xiàn)出巨大潛能，成為數(shù)字時(shí)代的內(nèi)容生產(chǎn)利器。但若被惡意用于金融欺詐、政治滲透、謠言制造、間諜竊密等非法活動(dòng)，將侵害公民合法權(quán)益，甚至擾亂社會(huì)秩序、危害國(guó)家安全。

深度偽造技術(shù)可能被境外間諜情報(bào)機(jī)關(guān)和敵對(duì)勢(shì)力利用，捏造虛假言論、偽造公務(wù)人員不當(dāng)視頻、炮制虛假政策畫面，從而制造社會(huì)恐慌、撕裂輿論、抹黑國(guó)家形象，沖擊政治安全與制度安全。此外，不法分子還可能利用深度偽造克隆親友、客服等聲音面容，實(shí)施冒充轉(zhuǎn)賬、虛假投資、仿冒官方渠道詐騙等非法活動(dòng)，甚至通過偽造企業(yè)公告、專家言論引發(fā)市場(chǎng)波動(dòng)。更嚴(yán)重的是，這些技術(shù)可能被用來偽造人臉、聲紋等生物特征，突破身份認(rèn)證和權(quán)限校驗(yàn)等核心數(shù)據(jù)防護(hù)機(jī)制，導(dǎo)致賬號(hào)被盜、后臺(tái)入侵、敏感數(shù)據(jù)批量泄漏，甚至關(guān)鍵信息基礎(chǔ)設(shè)施安全系統(tǒng)失控，對(duì)數(shù)據(jù)安全造成重大威脅。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確指出，任何組織和個(gè)人不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等活動(dòng)。具有輿論屬性和社會(huì)動(dòng)員能力的深度合成服務(wù)必須依法備案、內(nèi)容審核、實(shí)名管理和合成標(biāo)識(shí)，禁止刪除篡改標(biāo)識(shí)；嚴(yán)禁未經(jīng)授權(quán)使用人臉、人聲等生物識(shí)別信息進(jìn)行惡意編輯。

技術(shù)本身并無善惡之分，關(guān)鍵在于如何使用。面對(duì)深度偽造技術(shù)，每一位公民都應(yīng)自覺增強(qiáng)安全意識(shí)、提升辨別能力、遵守法律法規(guī)，以實(shí)際行動(dòng)維護(hù)國(guó)家安全和網(wǎng)絡(luò)清朗。要理性看待網(wǎng)絡(luò)信息，不盲目輕信不合常理的音視頻、圖片內(nèi)容，遇到可疑信息優(yōu)先通過官方渠道核實(shí)真?zhèn)?。同時(shí)，合理合法使用各類AI生成、圖像編輯、音視頻處理工具，不參與、不支持制作、傳播有害虛假信息。還要自覺抵制各類有害內(nèi)容，不隨意轉(zhuǎn)發(fā)未經(jīng)證實(shí)的信息，如發(fā)現(xiàn)AI視頻平臺(tái)或作品存在可能危害國(guó)家安全的問題線索，可通過12339國(guó)家安全機(jī)關(guān)舉報(bào)受理電話、網(wǎng)絡(luò)舉報(bào)受理平臺(tái)(www.12339.gov.cn)、國(guó)家安全部微信公眾號(hào)舉報(bào)受理渠道或者直接向當(dāng)?shù)貒?guó)家安全機(jī)關(guān)進(jìn)行舉報(bào)。