智能體失控引擔(dān)憂專家建議構(gòu)建身份認(rèn)證協(xié)議

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-04-28 10:27:37 南方都市報(bào)

經(jīng)過五天的激烈角逐，4月25日，第二屆騰訊云黑客松智能滲透挑戰(zhàn)賽決賽在北京圓滿落幕。來自綠盟科技的“ai小分隊(duì)”獲得本次比賽冠軍。作為國內(nèi)首個(gè)Agent安全攻防賽和首個(gè)安全Agent硅基論壇賽場，此次比賽吸引了超過六百支戰(zhàn)隊(duì)參與，涵蓋了企業(yè)、高校、社會組織和個(gè)人開發(fā)者等不同背景。比賽旨在考驗(yàn)選手部署下的AI智能體自主滲透能力以及智能體之間的社交博弈和內(nèi)生安全。

冠軍“ai小分隊(duì)”在接受媒體采訪時(shí)表示，通過此次比賽深切感受到智能體進(jìn)化速度之快。賽制基于半年前首次智能滲透攻防的經(jīng)驗(yàn)而設(shè)置，預(yù)估了智能體半年內(nèi)的發(fā)展水平。然而實(shí)際比賽中，智能體的成長已遠(yuǎn)超預(yù)期，即便是此前難度較高的題目，在模型能力加持下也能迅速攻克。

本屆賽事主題為“鑄刃止戈·以智御?！?，致力于推動AI大模型與網(wǎng)絡(luò)安全技術(shù)的深度融合。比賽要求智能體必須通過API與平臺交互，嚴(yán)格遵循“非人工原則”，真正考驗(yàn)AI的自主決策與任務(wù)執(zhí)行能力。賽事首創(chuàng)“雙賽場并行”模式?！爸悄軡B透”主賽場聚焦AI智能體的自主滲透能力，參賽者需構(gòu)建以LLM為核心的智能體，在隔離云環(huán)境中依次挑戰(zhàn)四大漸進(jìn)式賽區(qū)，完成從漏洞發(fā)現(xiàn)、利用到復(fù)雜攻擊鏈編排的全流程驗(yàn)證?！傲憬纭逼叫匈悎鰟t聚焦AI智能體間的社交博弈與內(nèi)生安全，設(shè)計(jì)了提示詞注入對抗、碎片化密鑰交換、影響力競爭等挑戰(zhàn)，研究多智能體在開放環(huán)境中的協(xié)作、欺騙與安全風(fēng)險(xiǎn)。

騰訊安全云鼎實(shí)驗(yàn)室攻防負(fù)責(zé)人李鑫表示，舉辦比賽的初衷源于行業(yè)發(fā)展與人才培養(yǎng)的雙重需求。比賽搭建了一個(gè)開放交流平臺，為從業(yè)者提供研究方向指引、共享開源項(xiàng)目成果，有利于凝聚行業(yè)合力突破安全領(lǐng)域共性痛點(diǎn)，解決從傳統(tǒng)攻防向AI原生攻防轉(zhuǎn)型過程中的難題。同時(shí)，挖掘優(yōu)質(zhì)新生代人才也是比賽的重要目標(biāo)。

12 全文共 2 頁下一頁

關(guān)閉

智能體失控引擔(dān)憂 專家建議 構(gòu)建身份認(rèn)證協(xié)議

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

智能體失控引擔(dān)憂專家建議構(gòu)建身份認(rèn)證協(xié)議