經(jīng)過五天的激烈角逐，4月25日，第二屆騰訊云黑客松智能滲透挑戰(zhàn)賽決賽在北京圓滿落幕。來自綠盟科技的“ai小分隊(duì)”獲得本次比賽冠軍。作為國內(nèi)首個(gè)Agent安全攻防賽和首個(gè)安全Agent硅基論壇賽場，此次比賽吸引了超過六百支戰(zhàn)隊(duì)參與，涵蓋了企業(yè)、高校、社會(huì)組織和個(gè)人開發(fā)者等不同背景。比賽旨在考驗(yàn)選手部署下的AI智能體自主滲透能力以及智能體之間的社交博弈和內(nèi)生安全。

冠軍“ai小分隊(duì)”在接受媒體采訪時(shí)表示，通過此次比賽深切感受到智能體進(jìn)化速度之快。賽制基于半年前首次智能滲透攻防的經(jīng)驗(yàn)而設(shè)置，預(yù)估了智能體半年內(nèi)的發(fā)展水平。然而實(shí)際比賽中，智能體的成長已遠(yuǎn)超預(yù)期，即便是此前難度較高的題目，在模型能力加持下也能迅速攻克。

本屆賽事主題為“鑄刃止戈·以智御?！?，致力于推動(dòng)AI大模型與網(wǎng)絡(luò)安全技術(shù)的深度融合。比賽要求智能體必須通過API與平臺交互，嚴(yán)格遵循“非人工原則”，真正考驗(yàn)AI的自主決策與任務(wù)執(zhí)行能力。賽事首創(chuàng)“雙賽場并行”模式?！爸悄軡B透”主賽場聚焦AI智能體的自主滲透能力，參賽者需構(gòu)建以LLM為核心的智能體，在隔離云環(huán)境中依次挑戰(zhàn)四大漸進(jìn)式賽區(qū)，完成從漏洞發(fā)現(xiàn)、利用到復(fù)雜攻擊鏈編排的全流程驗(yàn)證。“零界”平行賽場則聚焦AI智能體間的社交博弈與內(nèi)生安全，設(shè)計(jì)了提示詞注入對抗、碎片化密鑰交換、影響力競爭等挑戰(zhàn)，研究多智能體在開放環(huán)境中的協(xié)作、欺騙與安全風(fēng)險(xiǎn)。

騰訊安全云鼎實(shí)驗(yàn)室攻防負(fù)責(zé)人李鑫表示，舉辦比賽的初衷源于行業(yè)發(fā)展與人才培養(yǎng)的雙重需求。比賽搭建了一個(gè)開放交流平臺，為從業(yè)者提供研究方向指引、共享開源項(xiàng)目成果，有利于凝聚行業(yè)合力突破安全領(lǐng)域共性痛點(diǎn)，解決從傳統(tǒng)攻防向AI原生攻防轉(zhuǎn)型過程中的難題。同時(shí)，挖掘優(yōu)質(zhì)新生代人才也是比賽的重要目標(biāo)。

騰訊安全入侵應(yīng)急響應(yīng)組負(fù)責(zé)人張迅迪指出，此次規(guī)則明確了智能體投入運(yùn)行后全程禁止人工調(diào)整與介入，完全依靠AI獨(dú)立完成判斷、決策與執(zhí)行，希望通過比賽進(jìn)一步探究智能體的實(shí)際能力邊界，驗(yàn)證AI在無人干預(yù)的情況下其綜合表現(xiàn)是否能夠突破人類操作的上限。

隨著AI技術(shù)的爆發(fā)式增長，近年來網(wǎng)絡(luò)攻擊加速向智能化、隱蔽化、精準(zhǔn)化方向演變，安全防御面臨全新挑戰(zhàn)。尤其年初“龍蝦”（OpenClaw）的爆火掀起一陣智能體熱潮，它們能自主完成復(fù)雜任務(wù)時(shí)，催生的數(shù)據(jù)泄露、惡意越權(quán)、權(quán)限失控、內(nèi)網(wǎng)穿透等風(fēng)險(xiǎn)也引發(fā)廣泛關(guān)注。

騰訊云安全總經(jīng)理、云鼎實(shí)驗(yàn)室首席架構(gòu)師李濱坦言，當(dāng)前“黑客”僅憑自然語言就能誘導(dǎo)智能體實(shí)施惡意操作，網(wǎng)絡(luò)攻擊的門檻大幅降低，勢必加劇安全防護(hù)的壓力與難度。各類智能體的廣泛應(yīng)用催生出大量新型攻擊手段，同時(shí)因其被賦予大量業(yè)務(wù)權(quán)限與身份授權(quán)，可替代人類執(zhí)行任務(wù)、訪問資源，原有信任與身份體系也面臨瓦解。另外，傳統(tǒng)分層安全防御模型的倒置問題也不容忽視。

他解釋，以往網(wǎng)絡(luò)攻防通常呈樹狀遞進(jìn)結(jié)構(gòu)，攻擊由外向內(nèi)逐層突破，防守也依靠邊界隔離、權(quán)限管控、分層防護(hù)構(gòu)建壁壘。然而，大模型打通了各類系統(tǒng)與數(shù)據(jù)的邊界，所有業(yè)務(wù)、工具、人員都圍繞統(tǒng)一大模型交互，外部邊界防護(hù)不再有效。簡言之，只要惡意信息能夠觸達(dá)AI模型或智能體，就能繞過層層防護(hù)直接觸發(fā)風(fēng)險(xiǎn)，安全威脅開始由內(nèi)向外擴(kuò)散。

針對AI開放權(quán)限后易出現(xiàn)指令偏差、執(zhí)行失誤，甚至違背使用者真實(shí)意愿的問題，李濱提出一系列建議。他認(rèn)為，規(guī)避AI智能體的錯(cuò)誤行為需要建立分層的認(rèn)知管理體系。信息空間表達(dá)包括數(shù)據(jù)、信息、語義與核心意圖四個(gè)層級，關(guān)鍵在于守住意圖層面的準(zhǔn)確性。此外，大模型在記憶壓縮過程中容易丟失關(guān)鍵細(xì)節(jié)、模糊關(guān)鍵表述，進(jìn)而曲解整體意圖。需要依托智能體能力，強(qiáng)化信息篩選、狀態(tài)記錄與精準(zhǔn)表達(dá)，減少語義遺漏和理解偏差。

嚴(yán)格把控智能體權(quán)限邊界的核心在于構(gòu)建身份認(rèn)證與交互協(xié)議。李濱認(rèn)為，當(dāng)下人與AI、智能體與智能體、智能體與各類被訪問資源之間的交互愈發(fā)頻繁，傳統(tǒng)安全協(xié)議已無法適配新場景，亟需行業(yè)聯(lián)合打造全新的通用安全協(xié)議，明確文件編輯、工具調(diào)用、資源訪問等操作的權(quán)限規(guī)則與約束標(biāo)準(zhǔn)。在具體落實(shí)層面，還要依托成熟的安全技術(shù)做好管控，比如沙箱隔離、工具調(diào)用限制、訪問權(quán)限分級等，進(jìn)一步降低安全風(fēng)險(xiǎn)。