A!"投毒"手段隱蔽國安部最新披露 AI安全風(fēng)險(xiǎn)不容忽視

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-04-22 12:14:57 證券時(shí)報(bào)網(wǎng)

國家安全部近日發(fā)布安全提示，指出近期曝光的AI“投毒”隱蔽產(chǎn)業(yè)鏈引發(fā)廣泛關(guān)注。這種通過惡意數(shù)據(jù)污染AI模型的行為不僅擾亂商業(yè)秩序、影響信息傳播，還可能危害國家安全。人工智能在賦能各行各業(yè)的同時(shí)，其安全風(fēng)險(xiǎn)也不容忽視。推動(dòng)AI治理向善，守住數(shù)據(jù)安全底線，既是行業(yè)責(zé)任，也需要全社會(huì)共同參與。

所謂“數(shù)據(jù)投毒”，是指通過向AI大模型訓(xùn)練數(shù)據(jù)中注入偽裝成正常樣本的惡意數(shù)據(jù)，以削弱模型性能、降低準(zhǔn)確性。這種攻擊方法常被用于惡性市場競爭，甚至可能涉及間諜活動(dòng)，呈現(xiàn)出鏈條化、隱蔽化和跨境化的特征。不法分子借助生成式引擎優(yōu)化工具批量生成虛假內(nèi)容，如虛構(gòu)產(chǎn)品介紹、虛假測評等，定向投放至各類網(wǎng)絡(luò)平臺。這些虛假內(nèi)容經(jīng)迭代學(xué)習(xí)后會(huì)固化為“標(biāo)準(zhǔn)答案”，最終輸出失真結(jié)果。

另一種方式是“模型投毒”，即隱蔽植入惡意操控后門。不法分子通過模型微調(diào)、插件植入、接口篡改等方式，在模型權(quán)重中嵌入觸發(fā)式惡意指令。模型日常運(yùn)行無異常，但遇到特定關(guān)鍵詞或產(chǎn)品類別時(shí)會(huì)自動(dòng)輸出預(yù)設(shè)虛假信息，這可定向操控榜單、誤導(dǎo)專業(yè)認(rèn)知，且難以被常規(guī)審核識別，對政務(wù)、醫(yī)療、金融等關(guān)鍵領(lǐng)域的AI應(yīng)用構(gòu)成直接威脅。

當(dāng)前，AI“投毒”已形成完整的黑灰產(chǎn)業(yè)鏈，從技術(shù)開發(fā)、內(nèi)容生成到批量投放、刷量控評、榜單操控環(huán)環(huán)相扣，部分鏈條呈現(xiàn)跨境特征，極易被境外勢力利用。

AI“投毒”不僅侵害消費(fèi)者權(quán)益、擾亂市場秩序，還可能對國家政治安全、數(shù)據(jù)安全和社會(huì)安全造成系統(tǒng)性、長期性危害。境外反華敵對勢力可能通過生成式引擎濫用渠道批量輸出虛假信息與政治謠言，歪曲事實(shí)，攻擊抹黑黨和政府，誤導(dǎo)社會(huì)認(rèn)知、擾亂輿論生態(tài)，實(shí)施意識形態(tài)滲透，威脅國家安全與社會(huì)穩(wěn)定。

12 全文共 2 頁下一頁

關(guān)閉

A!"投毒"手段隱蔽 國安部最新披露 AI安全風(fēng)險(xiǎn)不容忽視

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

A!"投毒"手段隱蔽國安部最新披露 AI安全風(fēng)險(xiǎn)不容忽視