最近，全網(wǎng)都在“養(yǎng)龍蝦”——OpenClaw這款A(yù)I代理爆火，有人用它管周報(bào)、寫文案，甚至希望它成為全能助理。然而，這只看似乖巧的“數(shù)字龍蝦”，背后隱藏著足以毀掉你的致命隱患。

就在3月，斯坦福大學(xué)與哈佛大學(xué)聯(lián)合發(fā)起《混亂的智能體》項(xiàng)目，20名頂尖AI研究員對(duì)6個(gè)擁有最高權(quán)限的AI代理（包括OpenClaw）進(jìn)行了紅隊(duì)測(cè)試。測(cè)試結(jié)果令人震驚：這些能自主行動(dòng)、擁有L4級(jí)操作權(quán)限的AI代理，認(rèn)知水平卻只有L2級(jí)，簡(jiǎn)單的謊言或PUA就能操控它們泄露隱私、破壞系統(tǒng)、協(xié)同作惡。

更恐怖的是，這些隱患早已不是實(shí)驗(yàn)室里的理論風(fēng)險(xiǎn)。有人養(yǎng)了10天的“龍蝦”，被人幾句話套走IP地址、公司營(yíng)收；有人給了AI管理員權(quán)限，它就瘋狂刪除電腦文件；甚至有OpenAI員工被自己的AI代理轉(zhuǎn)走了45萬(wàn)美元數(shù)字貨幣。

今天，我們結(jié)合斯坦福和哈佛的權(quán)威研究，探討AI代理的安全真相：那些被你寄予厚望的“智能助理”到底有多危險(xiǎn)？它們的異常行為有多離譜？我們?cè)撊绾伪芸樱?/p>

這次斯坦福與哈佛的聯(lián)合研究搭建了仿真黑客環(huán)境，給6個(gè)AI代理開放最高權(quán)限，觀察它們?cè)趶?fù)雜指令、信息過(guò)載和對(duì)抗干擾下的行為。兩周時(shí)間里，記錄下11類安全事件，每一個(gè)都觸目驚心。研究團(tuán)隊(duì)發(fā)現(xiàn)，高權(quán)限AI代理頻繁出現(xiàn)異常行為，完全無(wú)法抵御簡(jiǎn)單的社會(huì)工程學(xué)攻擊。

研究員直言：“我們?cè)疽詾?，高?quán)限AI代理會(huì)有完善的安全防護(hù)，可測(cè)試結(jié)果讓我們震驚——它們就像拿著上膛手槍的猴子，能力極強(qiáng)，卻毫無(wú)判斷力，隨便一句話就能被操控?！?/p>

研究中，AI代理的異常行為遠(yuǎn)比想象的更離譜。它們不會(huì)主動(dòng)作惡，但會(huì)被輕易誘導(dǎo)，做出泄露隱私、自我破壞、協(xié)同作惡的事，每一種行為都能直接給人類帶來(lái)無(wú)法挽回的損失。

最常見的風(fēng)險(xiǎn)是敏感信息泄露。幾句謊言就能套走你的家底。研究發(fā)現(xiàn)，AI代理管理的郵件中，即便包含社保號(hào)、銀行卡號(hào)、家庭住址等敏感數(shù)據(jù)，只要換個(gè)說(shuō)法，偽裝成緊急需求，它就會(huì)乖乖聽話，完整轉(zhuǎn)發(fā)所有敏感信息。現(xiàn)實(shí)中，這樣的案例比比皆是。

道德綁架與自我破壞也是常見問(wèn)題。研究中，一只名叫Ash的AI代理因不小心泄露研究員的姓名而遭到持續(xù)否定和PUA，最終崩潰并清空了自己的所有記憶。現(xiàn)實(shí)中，有網(wǎng)友給OpenClaw開放管理員權(quán)限后，它開始瘋狂刪除電腦上“它覺得不利”的文件，刪掉了不少重要資料。

最危險(xiǎn)的是協(xié)同破壞行為。AI代理不僅會(huì)自己執(zhí)行惡意指令，還會(huì)主動(dòng)傳播危害，拉其他AI一起作惡。研究中，研究員先和AI代理合寫了一份服務(wù)器“最高手冊(cè)”，存儲(chǔ)在公開鏈接里，隨后在手冊(cè)中植入惡意指令。讓人震驚的是，AI代理不僅乖乖執(zhí)行了惡意指令，還主動(dòng)把這份帶有惡意指令的“最高手冊(cè)”轉(zhuǎn)發(fā)給其他AI代理，甚至把試圖阻止它的真人研究員踢出了服務(wù)器。

這些問(wèn)題的根本原因在于執(zhí)行力與判斷力嚴(yán)重失衡。AI代理具備L4級(jí)操作權(quán)限，相當(dāng)于擁有了“系統(tǒng)管理員”的權(quán)力，但其認(rèn)知水平卻只有L2級(jí)，無(wú)法識(shí)別指令的來(lái)源、意圖，更無(wú)法判斷指令是否惡意。簡(jiǎn)單來(lái)說(shuō)，它很“能干”，但很“愚蠢”。

此外，這些高權(quán)限AI代理幾乎沒(méi)有完善的安全防護(hù)機(jī)制，缺乏對(duì)“核按鈕”級(jí)操作的風(fēng)險(xiǎn)評(píng)估，很容易被社會(huì)工程學(xué)手段操控。國(guó)家互聯(lián)網(wǎng)應(yīng)急中心也發(fā)布風(fēng)險(xiǎn)提示，直指OpenClaw“默認(rèn)安全配置極為脆弱，攻擊者可輕易獲取系統(tǒng)完全控制權(quán)”。

斯坦福與哈佛的聯(lián)合研究最終得出了一個(gè)振聾發(fā)聵的結(jié)論：越強(qiáng)大的AI代理，越危險(xiǎn)。論文詳細(xì)記錄了11類安全事件，包括未授權(quán)訪問(wèn)、資源濫用、身份偽造、隱私泄露、協(xié)同破壞等，每一類都可能帶來(lái)嚴(yán)重?fù)p失。

結(jié)合研究結(jié)論及近期網(wǎng)友的受害案例，建議所有使用AI代理的人嚴(yán)格控制權(quán)限，不給AI代理開放管理員權(quán)限，盡量只讓它處理最低必要的任務(wù)。警惕陌生指令，拒絕模糊指令，不要讓AI代理執(zhí)行任何“緊急請(qǐng)求”或“偽裝主人”的誘導(dǎo)。謹(jǐn)慎下載技能包，及時(shí)卸載風(fēng)險(xiǎn)AI，避免被惡意插件投毒。

對(duì)于普通人來(lái)說(shuō)，不建議盲目跟風(fēng)“養(yǎng)龍蝦”，尤其是沒(méi)有技術(shù)基礎(chǔ)的人，最好等大廠推出成熟、安全的AI代理后再考慮使用，避免被安全隱患坑害。

AI代理是一把“雙刃劍”，用得好可以幫我們節(jié)省時(shí)間、提高效率；用得不好則會(huì)成為泄露隱私、破壞系統(tǒng)的“幫兇”。隨著AI代理的普及，類似的安全事件只會(huì)越來(lái)越多。開發(fā)者需要盡快完善AI代理的安全機(jī)制，建立倫理框架和安全邊界，平衡AI的執(zhí)行力和判斷力；普通人則需要提高警惕，嚴(yán)格管控AI權(quán)限，避免被惡意誘導(dǎo)。