治理AI“投毒”需結(jié)合多方力量(4)

2026-04-22 08:17:57 來(lái)源：環(huán)球時(shí)報(bào) A+A-

肖新光認(rèn)為，AI投毒治理應(yīng)對(duì)，是國(guó)家安全和社會(huì)治理工作的一部分，“這不是一個(gè)簡(jiǎn)單的技術(shù)安全問(wèn)題，也不能幻想單純依靠技術(shù)手段就能解決問(wèn)題，而是國(guó)家安全斗爭(zhēng)和綜合社會(huì)治理的系統(tǒng)工程?；ヂ?lián)網(wǎng)大廠、大模型平臺(tái)廠商享受了時(shí)代發(fā)展紅利，更需立場(chǎng)和擔(dān)當(dāng)”。

對(duì)于在關(guān)鍵行業(yè)推動(dòng)AI訓(xùn)練數(shù)據(jù)的白名單機(jī)制，劉巖表示，“在政務(wù)、金融、能源、醫(yī)療等關(guān)乎國(guó)計(jì)民生的關(guān)鍵信息基礎(chǔ)設(shè)施領(lǐng)域，貿(mào)然使用未經(jīng)驗(yàn)證的互聯(lián)網(wǎng)公開(kāi)數(shù)據(jù)進(jìn)行訓(xùn)練，存在極大風(fēng)險(xiǎn)。必須建立國(guó)家級(jí)的高質(zhì)量、高安全白名單數(shù)據(jù)集。這些數(shù)據(jù)必須經(jīng)過(guò)人工審核、機(jī)器清洗和安全加固，確保水源的純凈。只有基于白名單數(shù)據(jù)訓(xùn)練出的純凈模型，才能被允許在關(guān)鍵基礎(chǔ)設(shè)施中運(yùn)行，以此確保國(guó)家核心數(shù)據(jù)的主權(quán)與安全?！?/p>

此外，專家對(duì)普通用戶的建議是，大模型整體輸出質(zhì)量、效率高于搜索引擎，因此無(wú)需過(guò)于恐慌。肖新光表示，“一方面積極擁抱大模型帶來(lái)的便利，另一方面不迷信大模型的結(jié)果，保持質(zhì)疑精神，甚至在發(fā)現(xiàn)錯(cuò)誤信息、有害信息時(shí)，點(diǎn)一下‘踩’，及時(shí)留存舉報(bào)。這些舉動(dòng)都是普通用戶為大模型更好的發(fā)展、為國(guó)家安全和社會(huì)治理作出貢獻(xiàn)?！?/p>

治理AI投毒需國(guó)際合作

國(guó)家安全部公號(hào)文章還提到，AI“投毒”黑灰產(chǎn)已呈現(xiàn)“跨境化、鏈條化”特征。這種跨國(guó)協(xié)作的攻擊模式，對(duì)全球AI治理框架構(gòu)成了前所未有的挑戰(zhàn)。

劉巖認(rèn)為，AI投毒黑灰產(chǎn)的跨境化、鏈條化特征，正在從根本上動(dòng)搖以主權(quán)國(guó)家為邊界的全球AI治理框架?！巴抖井a(chǎn)業(yè)鏈的策劃者可能在A國(guó)，利用B國(guó)的服務(wù)器和開(kāi)源平臺(tái)，針對(duì)C國(guó)的大模型用戶發(fā)動(dòng)攻擊——就像網(wǎng)絡(luò)世界的飛地犯罪，任何一個(gè)國(guó)家的法律都無(wú)法完整覆蓋全鏈條。這不僅帶來(lái)了執(zhí)法管轄權(quán)沖突的難題，更讓境外勢(shì)力能夠低成本地實(shí)施意識(shí)形態(tài)滲透和數(shù)據(jù)主權(quán)破壞。OpenClaw這樣的開(kāi)源AI基礎(chǔ)設(shè)施是全球共享的，任何一個(gè)環(huán)節(jié)失守，風(fēng)險(xiǎn)都會(huì)迅速傳導(dǎo)至全球。”

與此同時(shí)，AI攻擊的隱蔽性使得溯源極其困難，攻擊者可通過(guò)匿名網(wǎng)絡(luò)、跳板機(jī)、加密通信等方式隱藏行蹤，而AI模型的黑箱特性也增加了取證的難度。

面對(duì)這些挑戰(zhàn)，沒(méi)有哪個(gè)國(guó)家能獨(dú)善其身，國(guó)際社會(huì)需要展開(kāi)合作。就像全球反恐需要情報(bào)共享一樣，防范AI投毒也需要全球協(xié)作。目前中國(guó)提出的《全球人工智能治理倡議》已在國(guó)際社會(huì)獲得廣泛響應(yīng)，國(guó)內(nèi)AI安全標(biāo)準(zhǔn)也在加速制定——中國(guó)方案正在為全球AI安全治理貢獻(xiàn)務(wù)實(shí)力量。

首頁(yè)上一頁(yè)1 2 34共 4 頁(yè)

(責(zé)任編輯：zx0204)