AI合成亂象的“安全閘”在哪里治理進入深水區(qū)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-10-12 17:35:34 第一財經

10月12日，青島保時捷女銷冠牟女士在個人微博賬號曬出青島市公安局李滄分局行政處罰決定書，并配文稱，“網絡不是法外之地，一切都有跡可循。”

此前，牟女士在微博上描述了近期遭遇的困擾：網絡上出現大量利用AI技術惡意合成的虛假視頻以及與面部側臉局部相似的不良視頻，對其進行誹謗與侮辱，甚至肆意傳播，泄露其電話及微信號，已嚴重影響其正常生活。牟女士聲明所有相關內容均為偽造，已委托律師完成證據固定，并于10日晚向公安機關報案，啟動法律程序追查到底。同時懸賞征集傳播者證據。

牟女士發(fā)布的行政處罰決定書主要針對違法行為鏈條中的傳播者丁某。決定書顯示，2025年10月10日丁某在一微信車友群內轉發(fā)牟女士照片圖文并搭配不雅視頻，對其侮辱，后被查獲。根據《中華人民共和國治安管理處罰法》第四十二條第二項規(guī)定，給予丁某行政拘留五日的行政處罰。丁某在11日寫下悔過書，承認自身錯誤并向牟女士道歉。但牟女士表示，相關案件已正式進入司法程序，交由警方依法處理，直接進行AI合成圖文與視頻的違法者暫未抓獲。

國內AI行業(yè)監(jiān)管范疇內，AI合成內容治理已從“原則倡導”階段進入“法治化+標準化+技術落地”的深水區(qū)。國家互聯(lián)網信息辦公室發(fā)布《人工智能生成合成內容標識辦法（征求意見稿）》，要求人工智能生成合成內容標識包括顯式標識和隱式標識。北京師范大學法學院副教授、中國互聯(lián)網協(xié)會研究中心副主任吳沈括指出，內容標識對于避免深度偽造帶來的安全風險有非常大的價值，有助于公眾識別AI內容的真?zhèn)魏蜋嗤浴?/p>

今年9月1日起，《人工智能生成合成內容標識辦法》與國家市監(jiān)總局、國家標準委發(fā)布的強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》均正式施行。抖音、快手、騰訊、微博、B站等平臺均上線“顯式+隱式”雙重標識功能，并配套限流、下架、封號等處置措施。北京市競天公誠律師事務所認為，《標識辦法》構建了標識管理的基礎架構體系，旨在通過統(tǒng)一的技術標識規(guī)范解決生成合成內容與真實信息的邊界模糊問題，遏制技術濫用對公共秩序和個體權益的侵害。

盡管已有治理舉措，目前行業(yè)內AI合成亂象仍存在。原因包括AI技術門檻大幅下滑、內容平臺“先發(fā)布后過濾”的審核機制給違法行為留存機會時差、標識與水印可通過批量擦除、裁剪等形式去除。當“一鍵換臉”就能換來真金白銀，“去標裁剪”只需動動手指，違法成本與暴利收益之間的杠桿迅速失衡，導致灰色產業(yè)鏈泛濫。AI合成內容治理仍需持續(xù)優(yōu)化，包括提升水印魯棒性、提高懲罰強度、提升審核效率與前置審核責任等。

(責任編輯：zhangxiaohua)

關閉

AI合成亂象的“安全閘”在哪里 治理進入深水區(qū)

相關新聞

今日熱點

頻道熱點

AI合成亂象的“安全閘”在哪里治理進入深水區(qū)