話題“被AI造黃謠女運(yùn)動(dòng)員發(fā)聲”近日沖上熱搜榜，引發(fā)廣泛關(guān)注。8月30日，臺(tái)球運(yùn)動(dòng)員王思諾公開發(fā)布視頻，表示自己正深陷惡意AI造“黃謠”風(fēng)波，有人利用人工智能偽造她的淫穢視頻并肆意傳播。目前，王思諾已委托律師開展證據(jù)保全工作，并正式啟動(dòng)法律程序維權(quán)。警方也已立案，進(jìn)入取證調(diào)查與偵破階段。

《法治日?qǐng)?bào)》記者梳理公開資料發(fā)現(xiàn)，通過(guò)“AI換臉”“AI脫衣”等方式造“黃謠”的情況已不是個(gè)例。在王思諾發(fā)聲后，臺(tái)球女裁判王鐘瑤發(fā)布視頻力挺王思諾。王鐘瑤透露，自己也遭遇過(guò)類似的糟心事，境外網(wǎng)站上曾非法傳播涉及她的偽造的淫穢視頻。今年3月，模特葉某發(fā)視頻稱，自己被人利用“AI換臉”制作淫穢視頻并大量傳播，造成嚴(yán)重困擾，已經(jīng)收集證據(jù)并報(bào)警。經(jīng)鑒定，該視頻確系拼湊偽造。

記者近日調(diào)查發(fā)現(xiàn)，網(wǎng)絡(luò)上有專門的AI軟件，為生成“黃圖”“造黃謠”提供技術(shù)便利。例如，在商家“××AI脫”給記者的報(bào)價(jià)單中，12元可充值20積分，28元可充值70積分，58元可充值118元積分……積分可用來(lái)生成“AI換臉”圖片或視頻，一張圖片一般需要10積分，視頻則是1秒需要1積分。如果花268元，可以開通永久卡，免費(fèi)使用上述商家提供的AI技術(shù)。該軟件提供的服務(wù)主要包括兩種：一種是上傳正常人物照片后，可以“AI脫衣”；另一種則是“AI換頭”，將別人的肖像換到他人的身體上。除“××AI脫”外，網(wǎng)上還有不少商家提供用于“AI換頭”的素材庫(kù)，其中多是些黃色圖片和視頻。

北京航空航天大學(xué)法學(xué)院副教授吉冠浩介紹，用AI造“黃謠”并傳播的自媒體和個(gè)人，可能對(duì)他人構(gòu)成民事侵權(quán)；符合一定條件的還可能違反治安管理處罰法，對(duì)其可處行政拘留及罰款；情節(jié)嚴(yán)重的還可能觸犯刑法，構(gòu)成傳播淫穢物品罪、侮辱罪或誹謗罪。作為傳播載體的平臺(tái)，如果未及時(shí)刪除已知侵權(quán)內(nèi)容，需與傳播者承擔(dān)連帶責(zé)任；縱容傳播可能因“未履行信息內(nèi)容管理義務(wù)”被主管部門處罰；算法主動(dòng)推薦淫穢內(nèi)容，可能構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪。

在北京瀛和律師事務(wù)所合伙人王利華看來(lái)，目前對(duì)制作、傳播AI“黃謠”的當(dāng)事人、自媒體及平臺(tái)的處罰力度存在不足。部分案件僅以警告、小額罰款、封禁賬號(hào)為主，未形成足夠震懾；對(duì)平臺(tái)的處罰多針對(duì)具體事件，缺乏常態(tài)化監(jiān)管和高額罰款，難以倒逼平臺(tái)落實(shí)主體責(zé)任。值得注意的是，現(xiàn)在很多AI“黃謠”不僅在國(guó)內(nèi)平臺(tái)，在境外平臺(tái)也大量傳播，比如某境外社交平臺(tái)上設(shè)有專門的“換臉視頻/圖片”專區(qū)，一些網(wǎng)站的服務(wù)器也在國(guó)外。受害者維權(quán)時(shí)常見證據(jù)易滅失（如加密聊天群內(nèi)容）、境外服務(wù)器取證難、無(wú)法刪除視頻等難題。

吉冠浩說(shuō)，針對(duì)證據(jù)易滅失、境外服務(wù)器取證難的問(wèn)題，辦案機(jī)關(guān)應(yīng)與時(shí)俱進(jìn)，運(yùn)用即時(shí)存證技術(shù)，構(gòu)建“區(qū)塊鏈+AI”的跨境證據(jù)固定系統(tǒng)；根據(jù)國(guó)際刑事司法協(xié)助法等，通過(guò)外交等渠道向境外司法機(jī)關(guān)提交證據(jù)調(diào)取請(qǐng)求，要求境外網(wǎng)絡(luò)平臺(tái)提供服務(wù)器日志等電子數(shù)據(jù)。針對(duì)無(wú)法刪除境外視頻的難題，相關(guān)監(jiān)管機(jī)關(guān)對(duì)長(zhǎng)期縱容AI違法內(nèi)容的境外平臺(tái)，可采取“長(zhǎng)臂管轄”措施，如限制其在中國(guó)市場(chǎng)的業(yè)務(wù)合作，或通過(guò)反壟斷法、數(shù)據(jù)安全法加以制裁。

王利華建議，出臺(tái)專門針對(duì)AI生成虛假信息的司法解釋，盡快明確AI“黃謠”的定義、制作、傳播、平臺(tái)的責(zé)任劃分，提高罰款金額、刑期等處罰標(biāo)準(zhǔn)。強(qiáng)化技術(shù)監(jiān)管能力，由政府牽頭建立“AI黃謠監(jiān)測(cè)預(yù)警平臺(tái)”，整合各平臺(tái)數(shù)據(jù)，對(duì)全網(wǎng)AI“黃謠”內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測(cè)、溯源和攔截；同時(shí)，鼓勵(lì)企業(yè)研發(fā)AI內(nèi)容識(shí)別技術(shù)，提升“黃謠”檢測(cè)準(zhǔn)確率。要求互聯(lián)網(wǎng)平臺(tái)、AI技術(shù)企業(yè)簽訂《AI內(nèi)容治理承諾書》，建立“黑名單”制度，對(duì)多次制作、傳播AI“黃謠”的賬號(hào)、企業(yè)進(jìn)行跨平臺(tái)聯(lián)合懲戒。

吉冠浩提出，針對(duì)工具源頭可設(shè)置防控方法：顯卡廠商應(yīng)植入“倫理協(xié)議芯片”，進(jìn)行二手顯卡交易時(shí)需驗(yàn)證其用戶的真實(shí)身份，并承諾禁止用于生成違法內(nèi)容。在軟件上，向開源模型注入“倫理污染數(shù)據(jù)”，針對(duì)“脫衣”“換臉”等關(guān)鍵詞，植入干擾標(biāo)簽，使模型輸出失真。網(wǎng)絡(luò)平臺(tái)應(yīng)部署多模態(tài)檢測(cè)引擎，結(jié)合生成痕跡與語(yǔ)義分析，實(shí)現(xiàn)精準(zhǔn)攔截。

可以設(shè)立“AI黃謠維權(quán)援助中心”，為受害者提供免費(fèi)的法律咨詢、證據(jù)存證、司法協(xié)助等服務(wù)。通過(guò)媒體宣傳普及維權(quán)流程，鼓勵(lì)受害者主動(dòng)報(bào)案、發(fā)聲，減少“沉默效應(yīng)”。