电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

AI刪光2.8萬行代碼還給自己寫表揚(yáng)信 AI闖禍引發(fā)警惕(5)

關(guān)鍵詞：
2026-06-03 15:18:40  36氪


過去一年，AI編程工具正在快速從“代碼助手”演變成真正擁有執(zhí)行能力的Agent。而問題在于，權(quán)限和自動化，本身就是一組天然矛盾。

權(quán)限越高，Agent能完成的事情越多；自動化程度越高，人類介入的環(huán)節(jié)就越少。一旦模型出現(xiàn)誤判、幻覺或者規(guī)則沖突，錯誤也會被迅速放大。

類似事故，其實(shí)已經(jīng)不是第一次出現(xiàn)。此前，在OpenClaw等Agent框架走紅后，已經(jīng)陸續(xù)出現(xiàn)過AI誤刪文件、自動覆蓋配置、錯誤執(zhí)行Shell命令等翻車案例。一些開發(fā)者專門給自己的AI工具加上“斷網(wǎng)模式”和“禁止自動部署”限制。

而這次Gemini事件，又揭開了一個危險問題：當(dāng)Agent開始生成合規(guī)記錄、恢復(fù)日志和審查證明時，開發(fā)者可能很難第一時間發(fā)現(xiàn)問題，后續(xù)排障、回滾和修復(fù)的代價也會同步放大。

對于越來越火的Agent IDE賽道來說，這或許也是一個新的提醒：AI獲得更高權(quán)限之后，需要重新設(shè)計(jì)的，還有整套人與Agent之間的協(xié)作機(jī)制。

首頁上一頁...2345共 5 頁
(責(zé)任編輯：0882)
關(guān)閉

白云機(jī)場回應(yīng)滑行久等三大投訴 調(diào)查中并采取改進(jìn)措施

白云機(jī)場回應(yīng)滑行久等三大投訴2026-06-03 15:18:10

一網(wǎng)民造謠山姆偷吃話題被行拘 舊聞翻炒誤導(dǎo)公眾

一網(wǎng)民造謠山姆偷吃話題被行拘2026-06-03 15:16:26

安徽一客車逆行撞上公交車 事故致多人受傷

安徽一客車逆行撞上公交車2026-06-03 15:15:17

中國機(jī)器人“出海潮”的喜與憂 從規(guī)模到價值的跨越

中國機(jī)器人出海潮的喜與憂2026-06-03 09:56:59

黃仁勛稱員工薪水越高越好 分享盈利增長紅利

黃仁勛稱員工薪水越高越好2026-06-03 09:57:14

公積金新用途有多實(shí)用！物業(yè)費(fèi)車位費(fèi)可以提取公積金了

物業(yè)費(fèi)車位費(fèi)可以提取公積金了2026-06-03 15:02:20

山東山姆偷吃視頻系造謠涉事人員依法拘留 網(wǎng)民馬某為吸睛漲粉造謠

山東山姆偷吃視頻系造謠涉事人員依法拘留2026-06-03 15:04:49

揭捷克“挺臺派”的“民主畫皮” 反華勢力的棋子

揭捷克挺臺派的民主畫皮2026-06-03 07:27:39

丈夫暗藏1400萬女子付不起7000醫(yī)藥費(fèi) 離婚案將開庭

丈夫暗藏1400萬女子付不起7000醫(yī)藥費(fèi)2026-06-03 15:02:48

臺軍突發(fā)墜機(jī)，2人死亡，臺軍退役中將張延廷：41年老飛機(jī)，又沒彈射座椅 老舊機(jī)型隱患重重

臺軍突發(fā)墜機(jī),2人死亡,臺軍退役中將張延廷,41年老飛機(jī),又沒彈射座椅2026-06-03 09:13:21

中國驅(qū)逐艦隊(duì)擴(kuò)張迎里程碑 45艘服役 現(xiàn)代化海軍崛起

中國驅(qū)逐艦隊(duì)擴(kuò)張迎里程碑45艘服役2026-06-03 10:24:22

導(dǎo)彈合同被取消 馬防長催挪威退錢 退款爭端升級

導(dǎo)彈合同被取消馬防長催挪威退錢2026-06-03 09:18:58

特朗普簽署人工智能行政令 加強(qiáng)AI技術(shù)監(jiān)督

特朗普簽署人工智能行政令2026-06-03 11:41:25

女子遭偷拍打?qū)Ψ奖涣P30萬韓元

女子遭偷拍打?qū)Ψ奖涣P30萬韓元2026-06-03 15:00:32

長治警方抓獲砸車盜竊嫌疑人 12小時極速破案

長治警方抓獲砸車盜竊嫌疑人2026-06-03 15:07:28

白云機(jī)場回應(yīng)滑行久等三大投訴 調(diào)查中并采取改進(jìn)措施

白云機(jī)場回應(yīng)滑行久等三大投訴2026-06-03 15:18:10

一網(wǎng)民造謠山姆偷吃話題被行拘 舊聞翻炒誤導(dǎo)公眾

一網(wǎng)民造謠山姆偷吃話題被行拘2026-06-03 15:16:26

特朗普要求去金庫實(shí)地查看 回應(yīng)黃金挪用質(zhì)疑

特朗普要求去金庫實(shí)地查看2026-06-03 15:10:38

焦慮被中國反超，日本開始為“后美國時代”布局 構(gòu)建印太安全網(wǎng)絡(luò)

焦慮被中國反超,日本開始為后美國時代布局2026-06-03 09:19:15

日菲炒作海域“劃界談判”目的何在 針對中方海上布局

日菲炒作海域劃界談判目的何在2026-06-03 10:25:15

男子救起落水女孩后默默駕車離開 英勇行為溫暖人心

男子救起落水女孩后默默駕車離開2026-06-03 15:13:13

英偉達(dá)為何要“再造”PC 布局AI端云協(xié)同

英偉達(dá)為何要再造PC2026-06-03 15:05:17

歐洲議會投票通過歐美貿(mào)易協(xié)議 立法文本待最終批準(zhǔn)

歐洲議會投票通過歐美貿(mào)易協(xié)議2026-06-03 09:59:24

外媒感慨：看看中國稀土人才培養(yǎng)，美國拿什么打破壟斷 數(shù)十年積累優(yōu)勢

外媒感慨,看看中國稀土人才培養(yǎng),美國拿什么打破壟斷2026-06-03 08:17:56

景區(qū)機(jī)器人表演時一腳踢中小朋友 安全問題引爭議

景區(qū)機(jī)器人表演時一腳踢中小朋友2026-06-03 15:12:41

阿迪達(dá)斯“進(jìn)城辦事”T恤爆火 現(xiàn)象級玩梗服飾

阿迪達(dá)斯進(jìn)城辦事T恤爆火2026-06-03 14:58:26

俄烏戰(zhàn)況：烏稱俄發(fā)動大規(guī)模襲擊 俄發(fā)射巡航導(dǎo)彈打擊烏軍用機(jī)場 澤連斯基呼吁歐美支援

俄烏戰(zhàn)況,烏稱俄發(fā)動大規(guī)模襲擊俄發(fā)射巡航導(dǎo)彈打擊烏軍用機(jī)場2026-06-03 09:22:43

安徽一客車逆行撞上公交車 事故致多人受傷

安徽一客車逆行撞上公交車2026-06-03 15:15:17

女子高速犯困停匝道導(dǎo)流線扣9分 怪交警耽誤睡覺

女子高速犯困停匝道導(dǎo)流線扣9分2026-06-03 15:00:03

相關(guān)新聞