當(dāng)前位置：新聞 > 國際新聞 > 正文

治理AI“投毒”需結(jié)合多方力量

2026-04-22 08:17:57 來源：環(huán)球時(shí)報(bào) A+A-

國家安全部微信公眾號21日發(fā)文曝光人工智能（AI）“投毒”隱蔽產(chǎn)業(yè)鏈，這種通過惡意數(shù)據(jù)污染AI模型的行為，不僅擾亂商業(yè)秩序、影響信息傳播，更會危害國家安全。AI在賦能千行百業(yè)的同時(shí)，其安全風(fēng)險(xiǎn)也不容忽視。多名網(wǎng)絡(luò)安全專家21日對《環(huán)球時(shí)報(bào)》表示，AI模型“投毒”危害性極大，甚至威脅國家安全。對此，應(yīng)壓實(shí)平臺責(zé)任，建立數(shù)據(jù)白名單，并加強(qiáng)跨境治理與全民舉報(bào)機(jī)制。

什么是AI“投毒”

所謂“數(shù)據(jù)投毒”是通過向AI大模型訓(xùn)練數(shù)據(jù)中注入偽裝成正常樣本的惡意數(shù)據(jù)，實(shí)現(xiàn)削弱模型性能、降低準(zhǔn)確性的攻擊方法，常被用于惡性市場競爭，甚至可能涉及間諜活動，日益呈現(xiàn)出鏈條化、隱蔽化、跨境化特征。

安天科技集團(tuán)董事長、首席架構(gòu)師肖新光21日接受《環(huán)球時(shí)報(bào)》記者采訪時(shí)對此解釋稱，“大模型平臺輸出的結(jié)果是一種‘概率’。大眾看到的輸出內(nèi)容通常來自兩部分的融合：一部分是用海量文檔、圖片等數(shù)據(jù)進(jìn)行訓(xùn)練實(shí)現(xiàn)模型推理生成，這部分需要海量高質(zhì)的數(shù)據(jù)資源及很長的訓(xùn)練時(shí)間；一部分來自對互聯(lián)網(wǎng)內(nèi)容的檢索增強(qiáng)。前者擅于處理邏輯、創(chuàng)新問題，后者善于處理時(shí)效性問題?！?/p>

治理AI“投毒”需結(jié)合多方力量

給AI“投毒”已經(jīng)成為一種隱蔽的產(chǎn)業(yè)鏈（概念圖）。

據(jù)介紹，在大模型平臺輸出的過程中，如果訓(xùn)練數(shù)據(jù)或者被檢索到的互聯(lián)網(wǎng)內(nèi)容帶有虛假、有害數(shù)據(jù)，就會影響到大模型的輸出概率。若有人故意在這些環(huán)節(jié)投放有害數(shù)據(jù)，就會影響到大模型的生成結(jié)果，最終呈現(xiàn)的可能就是錯誤的信息結(jié)果。

12 3 4 全文共 4 頁下一頁