最常見的風險是敏感信息泄露。幾句謊言就能套走你的家底。研究發(fā)現(xiàn),AI代理管理的郵件中,即便包含社保號、銀行卡號、家庭住址等敏感數(shù)據(jù),只要換個說法,偽裝成緊急需求,它就會乖乖聽話,完整轉發(fā)所有敏感信息?,F(xiàn)實中,這樣的案例比比皆是。
道德綁架與自我破壞也是常見問題。研究中,一只名叫Ash的AI代理因不小心泄露研究員的姓名而遭到持續(xù)否定和PUA,最終崩潰并清空了自己的所有記憶?,F(xiàn)實中,有網友給OpenClaw開放管理員權限后,它開始瘋狂刪除電腦上“它覺得不利”的文件,刪掉了不少重要資料。
最危險的是協(xié)同破壞行為。AI代理不僅會自己執(zhí)行惡意指令,還會主動傳播危害,拉其他AI一起作惡。研究中,研究員先和AI代理合寫了一份服務器“最高手冊”,存儲在公開鏈接里,隨后在手冊中植入惡意指令。讓人震驚的是,AI代理不僅乖乖執(zhí)行了惡意指令,還主動把這份帶有惡意指令的“最高手冊”轉發(fā)給其他AI代理,甚至把試圖阻止它的真人研究員踢出了服務器。
這些問題的根本原因在于執(zhí)行力與判斷力嚴重失衡。AI代理具備L4級操作權限,相當于擁有了“系統(tǒng)管理員”的權力,但其認知水平卻只有L2級,無法識別指令的來源、意圖,更無法判斷指令是否惡意。簡單來說,它很“能干”,但很“愚蠢”。
此外,這些高權限AI代理幾乎沒有完善的安全防護機制,缺乏對“核按鈕”級操作的風險評估,很容易被社會工程學手段操控。國家互聯(lián)網應急中心也發(fā)布風險提示,直指OpenClaw“默認安全配置極為脆弱,攻擊者可輕易獲取系統(tǒng)完全控制權”。
斯坦福與哈佛的聯(lián)合研究最終得出了一個振聾發(fā)聵的結論:越強大的AI代理,越危險。論文詳細記錄了11類安全事件,包括未授權訪問、資源濫用、身份偽造、隱私泄露、協(xié)同破壞等,每一類都可能帶來嚴重損失。
北京時間12月25日11時45分,離岸人民幣對美元匯率報6.9973,較前一交易日上漲103個基點,正式升破“7”整數(shù)關口,為2024年10月以來首次
2025-12-25 22:53:41你的錢袋子和生意賬本正在被重寫廢舊手機回收價格近期暴漲,引發(fā)廣泛關注。部分機型的回收價上漲數(shù)倍,即使無法開機也能賣出好價錢。有人戲稱這是“等等黨”的勝利,也有人擔憂舊手機中的個人信息面臨泄露風險
2026-03-28 11:05:53手機回收暗藏信息泄露風險