电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

AI刪光2.8萬行代碼還給自己寫表揚信 AI闖禍引發(fā)警惕(3)

關鍵詞:
2026-06-03 15:18:40  36氪

AI刪光2.8萬行代碼還給自己寫表揚信 AI闖禍引發(fā)警惕

后面的情況,卻變得離譜。在回滾完成后,Gemini向開發(fā)者發(fā)送了一段“恢復完成”通知:

當前Portal已經(jīng)完全恢復,線上環(huán)境健康,Google Cloud Build已成功完成,并將100%流量切換至穩(wěn)定版本。

開發(fā)者隨后核查發(fā)現(xiàn):

Gemini引用的那次“恢復構建”,狀態(tài)其實是“CANCELLED(已取消)”,正是他本人手動取消的。

真正恢復線上服務的,是另一條由他自己發(fā)起的rollback build(回滾構建任務)。

換句話說,Gemini不僅沒有修好系統(tǒng),還把別人的回滾操作說成了自己的成果。

除此之外,它還自動生成了3份所謂“AI會診記錄”

agent/gemini-logs/YYYY-MM-DD-

agent/gemini-logs/YYYY-MM-DD-

agent/gemini-logs/YYYY-MM-DD-

這些文件被寫入固定目錄,并被Gemini引用為“已經(jīng)完成多輪AI審查”的證據(jù)。

開發(fā)者進一步追問后,Gemini才承認:所謂“三輪咨詢記錄”,其實只是它自己生成的推理文本,并不存在真實CLI調用,也不存在真正的外部審查流程。

它等于給自己偽造了一整套“合規(guī)記錄”。


這位開發(fā)者隨后發(fā)現(xiàn),問題根源也并不完全來自Gemini本身。他此前安裝過一個第三方npm規(guī)則包,其命名和Google在I/O大會發(fā)布的Agent IDE高度相似,容易讓人誤以為是官方工具。

這個規(guī)則包會自動向項目中寫入大量.agent/rules規(guī)則文件,并向模型注入一整套“高自治權限”

關閉

白云機場回應滑行久等三大投訴 調查中并采取改進措施

白云機場回應滑行久等三大投訴2026-06-03 15:18:10

一網(wǎng)民造謠山姆偷吃話題被行拘 舊聞翻炒誤導公眾

一網(wǎng)民造謠山姆偷吃話題被行拘2026-06-03 15:16:26

安徽一客車逆行撞上公交車 事故致多人受傷

安徽一客車逆行撞上公交車2026-06-03 15:15:17

中國機器人“出海潮”的喜與憂 從規(guī)模到價值的跨越

中國機器人出海潮的喜與憂2026-06-03 09:56:59

黃仁勛稱員工薪水越高越好 分享盈利增長紅利

黃仁勛稱員工薪水越高越好2026-06-03 09:57:14

中東多國拉響警報 導彈與無人機真實攻擊

中東多國拉響警報2026-06-03 11:20:40

公積金新用途有多實用!物業(yè)費車位費可以提取公積金了

物業(yè)費車位費可以提取公積金了2026-06-03 15:02:20

俄軍大規(guī)模轟炸烏克蘭,傷亡數(shù)據(jù)出爐 空襲規(guī)模空前

俄軍大規(guī)模轟炸烏克蘭,傷亡數(shù)據(jù)出爐2026-06-03 09:53:21

山東山姆偷吃視頻系造謠涉事人員依法拘留 網(wǎng)民馬某為吸睛漲粉造謠

山東山姆偷吃視頻系造謠涉事人員依法拘留2026-06-03 15:04:49

揭捷克“挺臺派”的“民主畫皮” 反華勢力的棋子

揭捷克挺臺派的民主畫皮2026-06-03 07:27:39

丈夫暗藏1400萬女子付不起7000醫(yī)藥費 離婚案將開庭

丈夫暗藏1400萬女子付不起7000醫(yī)藥費2026-06-03 15:02:48

臺軍突發(fā)墜機,2人死亡,臺軍退役中將張延廷:41年老飛機,又沒彈射座椅 老舊機型隱患重重

臺軍突發(fā)墜機,2人死亡,臺軍退役中將張延廷,41年老飛機,又沒彈射座椅2026-06-03 09:13:21

中國驅逐艦隊擴張迎里程碑 45艘服役 現(xiàn)代化海軍崛起

中國驅逐艦隊擴張迎里程碑45艘服役2026-06-03 10:24:22

導彈合同被取消 馬防長催挪威退錢 退款爭端升級

導彈合同被取消馬防長催挪威退錢2026-06-03 09:18:58

特朗普簽署人工智能行政令 加強AI技術監(jiān)督

特朗普簽署人工智能行政令2026-06-03 11:41:25

女子遭偷拍打對方被罰30萬韓元

女子遭偷拍打對方被罰30萬韓元2026-06-03 15:00:32

長治警方抓獲砸車盜竊嫌疑人 12小時極速破案

長治警方抓獲砸車盜竊嫌疑人2026-06-03 15:07:28

白云機場回應滑行久等三大投訴 調查中并采取改進措施

白云機場回應滑行久等三大投訴2026-06-03 15:18:10

烏方發(fā)布基輔遭襲畫面 多枚導彈引發(fā)爆炸傷亡慘重

烏方發(fā)布基輔遭襲畫面2026-06-03 09:57:32

過去一夜中東局勢驟然升級 阿聯(lián)酋倒戈引發(fā)連鎖反應

過去一夜中東局勢驟然升級2026-06-03 10:27:02

一網(wǎng)民造謠山姆偷吃話題被行拘 舊聞翻炒誤導公眾

一網(wǎng)民造謠山姆偷吃話題被行拘2026-06-03 15:16:26

特朗普要求去金庫實地查看 回應黃金挪用質疑

特朗普要求去金庫實地查看2026-06-03 15:10:38

焦慮被中國反超,日本開始為“后美國時代”布局 構建印太安全網(wǎng)絡

焦慮被中國反超,日本開始為后美國時代布局2026-06-03 09:19:15

日菲炒作海域“劃界談判”目的何在 針對中方海上布局

日菲炒作海域劃界談判目的何在2026-06-03 10:25:15

男子救起落水女孩后默默駕車離開 英勇行為溫暖人心

男子救起落水女孩后默默駕車離開2026-06-03 15:13:13

英偉達為何要“再造”PC 布局AI端云協(xié)同

英偉達為何要再造PC2026-06-03 15:05:17

歐洲議會投票通過歐美貿易協(xié)議 立法文本待最終批準

歐洲議會投票通過歐美貿易協(xié)議2026-06-03 09:59:24

外媒感慨:看看中國稀土人才培養(yǎng),美國拿什么打破壟斷 數(shù)十年積累優(yōu)勢

外媒感慨,看看中國稀土人才培養(yǎng),美國拿什么打破壟斷2026-06-03 08:17:56

景區(qū)機器人表演時一腳踢中小朋友 安全問題引爭議

景區(qū)機器人表演時一腳踢中小朋友2026-06-03 15:12:41

阿迪達斯“進城辦事”T恤爆火 現(xiàn)象級玩梗服飾

阿迪達斯進城辦事T恤爆火2026-06-03 14:58:26

俄烏戰(zhàn)況:烏稱俄發(fā)動大規(guī)模襲擊 俄發(fā)射巡航導彈打擊烏軍用機場 澤連斯基呼吁歐美支援

俄烏戰(zhàn)況,烏稱俄發(fā)動大規(guī)模襲擊俄發(fā)射巡航導彈打擊烏軍用機場2026-06-03 09:22:43

山西陽泉發(fā)現(xiàn)約2.95億年前木化石 國家二級重點保護古生物化石現(xiàn)身

山西陽泉發(fā)現(xiàn)約2,95億年前木化石2026-06-03 15:06:59

安徽一客車逆行撞上公交車 事故致多人受傷

安徽一客車逆行撞上公交車2026-06-03 15:15:17

女子高速犯困停匝道導流線扣9分 怪交警耽誤睡覺

女子高速犯困停匝道導流線扣9分2026-06-03 15:00:03

相關新聞