在北京瀛和律師事務(wù)所合伙人王利華看來,目前對制作、傳播AI“黃謠”的當事人、自媒體及平臺的處罰力度存在不足。部分案件僅以警告、小額罰款、封禁賬號為主,未形成足夠震懾;對平臺的處罰多針對具體事件,缺乏常態(tài)化監(jiān)管和高額罰款,難以倒逼平臺落實主體責任。值得注意的是,現(xiàn)在很多AI“黃謠”不僅在國內(nèi)平臺,在境外平臺也大量傳播,比如某境外社交平臺上設(shè)有專門的“換臉視頻/圖片”專區(qū),一些網(wǎng)站的服務(wù)器也在國外。受害者維權(quán)時常見證據(jù)易滅失(如加密聊天群內(nèi)容)、境外服務(wù)器取證難、無法刪除視頻等難題。
吉冠浩說,針對證據(jù)易滅失、境外服務(wù)器取證難的問題,辦案機關(guān)應(yīng)與時俱進,運用即時存證技術(shù),構(gòu)建“區(qū)塊鏈+AI”的跨境證據(jù)固定系統(tǒng);根據(jù)國際刑事司法協(xié)助法等,通過外交等渠道向境外司法機關(guān)提交證據(jù)調(diào)取請求,要求境外網(wǎng)絡(luò)平臺提供服務(wù)器日志等電子數(shù)據(jù)。針對無法刪除境外視頻的難題,相關(guān)監(jiān)管機關(guān)對長期縱容AI違法內(nèi)容的境外平臺,可采取“長臂管轄”措施,如限制其在中國市場的業(yè)務(wù)合作,或通過反壟斷法、數(shù)據(jù)安全法加以制裁。
王利華建議,出臺專門針對AI生成虛假信息的司法解釋,盡快明確AI“黃謠”的定義、制作、傳播、平臺的責任劃分,提高罰款金額、刑期等處罰標準。強化技術(shù)監(jiān)管能力,由政府牽頭建立“AI黃謠監(jiān)測預警平臺”,整合各平臺數(shù)據(jù),對全網(wǎng)AI“黃謠”內(nèi)容進行實時監(jiān)測、溯源和攔截;同時,鼓勵企業(yè)研發(fā)AI內(nèi)容識別技術(shù),提升“黃謠”檢測準確率。要求互聯(lián)網(wǎng)平臺、AI技術(shù)企業(yè)簽訂《AI內(nèi)容治理承諾書》,建立“黑名單”制度,對多次制作、傳播AI“黃謠”的賬號、企業(yè)進行跨平臺聯(lián)合懲戒。
吉冠浩提出,針對工具源頭可設(shè)置防控方法:顯卡廠商應(yīng)植入“倫理協(xié)議芯片”,進行二手顯卡交易時需驗證其用戶的真實身份,并承諾禁止用于生成違法內(nèi)容。在軟件上,向開源模型注入“倫理污染數(shù)據(jù)”,針對“脫衣”“換臉”等關(guān)鍵詞,植入干擾標簽,使模型輸出失真。網(wǎng)絡(luò)平臺應(yīng)部署多模態(tài)檢測引擎,結(jié)合生成痕跡與語義分析,實現(xiàn)精準攔截。
可以設(shè)立“AI黃謠維權(quán)援助中心”,為受害者提供免費的法律咨詢、證據(jù)存證、司法協(xié)助等服務(wù)。通過媒體宣傳普及維權(quán)流程,鼓勵受害者主動報案、發(fā)聲,減少“沉默效應(yīng)”。