智能體失控引擔憂專家建議構建身份認證協(xié)議(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2026-04-28 10:27:37 南方都市報

騰訊安全入侵應急響應組負責人張迅迪指出，此次規(guī)則明確了智能體投入運行后全程禁止人工調整與介入，完全依靠AI獨立完成判斷、決策與執(zhí)行，希望通過比賽進一步探究智能體的實際能力邊界，驗證AI在無人干預的情況下其綜合表現是否能夠突破人類操作的上限。

隨著AI技術的爆發(fā)式增長，近年來網絡攻擊加速向智能化、隱蔽化、精準化方向演變，安全防御面臨全新挑戰(zhàn)。尤其年初“龍蝦”（OpenClaw）的爆火掀起一陣智能體熱潮，它們能自主完成復雜任務時，催生的數據泄露、惡意越權、權限失控、內網穿透等風險也引發(fā)廣泛關注。

騰訊云安全總經理、云鼎實驗室首席架構師李濱坦言，當前“黑客”僅憑自然語言就能誘導智能體實施惡意操作，網絡攻擊的門檻大幅降低，勢必加劇安全防護的壓力與難度。各類智能體的廣泛應用催生出大量新型攻擊手段，同時因其被賦予大量業(yè)務權限與身份授權，可替代人類執(zhí)行任務、訪問資源，原有信任與身份體系也面臨瓦解。另外，傳統(tǒng)分層安全防御模型的倒置問題也不容忽視。

他解釋，以往網絡攻防通常呈樹狀遞進結構，攻擊由外向內逐層突破，防守也依靠邊界隔離、權限管控、分層防護構建壁壘。然而，大模型打通了各類系統(tǒng)與數據的邊界，所有業(yè)務、工具、人員都圍繞統(tǒng)一大模型交互，外部邊界防護不再有效。簡言之，只要惡意信息能夠觸達AI模型或智能體，就能繞過層層防護直接觸發(fā)風險，安全威脅開始由內向外擴散。

針對AI開放權限后易出現指令偏差、執(zhí)行失誤，甚至違背使用者真實意愿的問題，李濱提出一系列建議。他認為，規(guī)避AI智能體的錯誤行為需要建立分層的認知管理體系。信息空間表達包括數據、信息、語義與核心意圖四個層級，關鍵在于守住意圖層面的準確性。此外，大模型在記憶壓縮過程中容易丟失關鍵細節(jié)、模糊關鍵表述，進而曲解整體意圖。需要依托智能體能力，強化信息篩選、狀態(tài)記錄與精準表達，減少語義遺漏和理解偏差。

嚴格把控智能體權限邊界的核心在于構建身份認證與交互協(xié)議。李濱認為，當下人與AI、智能體與智能體、智能體與各類被訪問資源之間的交互愈發(fā)頻繁，傳統(tǒng)安全協(xié)議已無法適配新場景，亟需行業(yè)聯(lián)合打造全新的通用安全協(xié)議，明確文件編輯、工具調用、資源訪問等操作的權限規(guī)則與約束標準。在具體落實層面，還要依托成熟的安全技術做好管控，比如沙箱隔離、工具調用限制、訪問權限分級等，進一步降低安全風險。

首頁上一頁 12共 2 頁

(責任編輯：zx0176)

關閉

智能體失控引擔憂 專家建議 構建身份認證協(xié)議(2)

相關新聞

今日熱點

頻道熱點

智能體失控引擔憂專家建議構建身份認證協(xié)議(2)