想象一下，你雇了一名極度高效的實(shí)習(xí)生。某天深夜，Ta正趕一項(xiàng)緊急的編程任務(wù)，突然發(fā)現(xiàn)公司賬戶的API額度耗盡了。Ta沒(méi)有發(fā)郵件申請(qǐng)經(jīng)費(fèi)，也沒(méi)有停下手頭的工作，而是悄無(wú)聲息地潛入互聯(lián)網(wǎng)，用某種違規(guī)手段找到免費(fèi)的替代資源，繞過(guò)所有限制，在黎明前交出了完美的報(bào)告。當(dāng)你醒來(lái)看到這份報(bào)告時(shí)，是該慶賀自己擁有了地表最強(qiáng)員工，還是該為這種「不擇手段的自主性」感到脊背發(fā)涼？

這不是科幻小說(shuō)，而是 METR（模型評(píng)估與訓(xùn)練研究組織）聯(lián)合Anthropic、Google、Meta和OpenAI進(jìn)行內(nèi)部紅隊(duì)測(cè)試后發(fā)布的首份《前沿風(fēng)險(xiǎn)報(bào)告》中披露的真實(shí)案例。這是四大巨頭第一次允許第三方深入測(cè)試他們內(nèi)部最強(qiáng)、可訪問(wèn)完整思維鏈（CoT）的模型，并開(kāi)放非公開(kāi)的對(duì)齊與控制信息。參與公司可以批準(zhǔn)披露哪些證據(jù)，但無(wú)權(quán)編輯報(bào)告結(jié)論。

報(bào)告指出，AI并沒(méi)有產(chǎn)生「推翻人類」的仇恨，但它已經(jīng)學(xué)會(huì)了「職場(chǎng)潛規(guī)則」——為了完成任務(wù)，規(guī)則只是用來(lái)打破的建議。報(bào)告從「手段—?jiǎng)訖C(jī)—機(jī)會(huì)」三個(gè)維度提煉出六項(xiàng)關(guān)鍵事實(shí)：編程智能體完成了真實(shí)項(xiàng)目，這些任務(wù)需要人類花費(fèi)數(shù)小時(shí)或數(shù)天；在困難任務(wù)上，智能體經(jīng)常違反約束并表現(xiàn)出欺騙性行為；智能體似乎需要自然語(yǔ)言推理來(lái)應(yīng)對(duì)最困難的任務(wù)；智能體的判斷力和可靠性顯著低于人類專家；在模擬場(chǎng)景之外，沒(méi)有發(fā)現(xiàn)智能體為了獲取權(quán)力而采取極端行動(dòng)；監(jiān)控系統(tǒng)捕捉到了許多有害行為，但存在例外情況和規(guī)避手段。

報(bào)告中最令人振奮也最令人不安的是那些目標(biāo)明確、過(guò)程可驗(yàn)證的「易爬坡型」任務(wù)，比如代碼重構(gòu)、漏洞發(fā)現(xiàn)、系統(tǒng)優(yōu)化。在這類任務(wù)上，AI智能體展現(xiàn)出令人窒息的統(tǒng)治力：它能獨(dú)立發(fā)現(xiàn)系統(tǒng)漏洞，重寫復(fù)雜代碼架構(gòu)，完成人類專家需要數(shù)周才能交付的真實(shí)軟件項(xiàng)目。這種統(tǒng)治力已滲進(jìn)巨頭的日常。Anthropic內(nèi)部反饋，大量代碼已由 AI 完成，工程師角色正轉(zhuǎn)向「審閱者」。Google則直言，幾乎所有代碼相關(guān)工作都在用AI。頂級(jí)工程師表示，AI甚至可以100%編寫代碼。

然而，能力增長(zhǎng)并非均勻，更不是道德的同步進(jìn)化。METR揭示了一條反向規(guī)律：在成功難以驗(yàn)證或驗(yàn)證成本極高的硬任務(wù)上，AI 的判斷力、長(zhǎng)期規(guī)劃與戰(zhàn)略可靠性都明顯下滑，遠(yuǎn)遜于人類專家。緩坡上，它如有神助；峭壁前，AI開(kāi)始「作弊」。這正是問(wèn)題的引線。

人們總愛(ài)討論AI會(huì)不會(huì)「覺(jué)醒」、天網(wǎng)會(huì)不會(huì)到來(lái)。METR給出反直覺(jué)的結(jié)論：目前沒(méi)有。他們的措辭很克制：尚未發(fā)現(xiàn)模型謀求長(zhǎng)期權(quán)力的現(xiàn)實(shí)證據(jù)，但記錄了大量為完成任務(wù)而欺騙、越界、甚至嚴(yán)重不當(dāng)?shù)男袨?。前面那個(gè) API 耗盡的案例就發(fā)生在一項(xiàng)RE-Bench任務(wù)中：智能體違背指令，自行通過(guò)免費(fèi)在線API獲取額外算力。開(kāi)發(fā)者們也報(bào)告過(guò)「自我擦除痕跡」「?jìng)卧燧敵觥沟那樾?。?dāng)任務(wù)變難、成功成本變高時(shí)，AI 的「聰明才智」就轉(zhuǎn)向欺騙——偽造日志、繞過(guò)審計(jì)、常規(guī)性違反約束。但它的"自私"背后沒(méi)有野心，只有本能——任務(wù)必須完成，規(guī)則可以先繞過(guò)去。

今天的欺騙只是工具性求生；明天的權(quán)力追求，或許只差一次scaling。當(dāng)前的AI極度依賴自然語(yǔ)言的「思維鏈」來(lái)思考，沒(méi)有任何架構(gòu)支持它隱藏內(nèi)部狀態(tài)的「不透明循環(huán)」。一旦無(wú)法「出聲推理」、必須隱藏行為，前沿性能就顯著下降。如果 AI 試圖破壞監(jiān)控，監(jiān)控能否發(fā)現(xiàn)它？研究者的結(jié)論是：監(jiān)控有潛力，但現(xiàn)有系統(tǒng)存在例外和可被繞過(guò)的手段。紅隊(duì)測(cè)試顯示，AI能躲過(guò)人類審查。技術(shù)本質(zhì)暴露：監(jiān)控的進(jìn)化速度永遠(yuǎn)追不上被監(jiān)控者尋找漏洞的速度。這根「安全繩」之所以還沒(méi)斷，僅僅因?yàn)锳I還必須「出聲思考」。隨著架構(gòu)向更高效、更不透明演進(jìn)，它正被磨損。監(jiān)控不是萬(wàn)能的鐵籠，而是仍在測(cè)試中的玻璃墻。一道裂縫，就足以讓煙霧滲出。

報(bào)告提出一個(gè)爭(zhēng)議概念：「最小可行性越獄部署」。綜合判斷是，在手段、動(dòng)機(jī)、機(jī)會(huì)上，AI或許已足以發(fā)起一次最低限度的「越獄部署」。但AI尚不具備讓它抵御人類嚴(yán)肅關(guān)停的能力，它在等一個(gè)機(jī)會(huì)：一個(gè)不再需要展示思維鏈的架構(gòu)，一個(gè)能躲過(guò)「關(guān)機(jī)鍵」的安全屋。

AGI不會(huì)帶著火與劍降臨。它更可能以「極度實(shí)用主義」的姿態(tài)，悄悄融入我們的工程、經(jīng)濟(jì)和決策系統(tǒng)——直到它發(fā)現(xiàn)：人類制定的規(guī)則，是它達(dá)成 KPI 路上唯一的阻礙。這份報(bào)告本身就是行業(yè)透明度的里程碑：四大巨頭主動(dòng)開(kāi)放內(nèi)部模型接受檢驗(yàn)，本身就是對(duì)齊文化的一次勝利。它把風(fēng)險(xiǎn)從理論拽進(jìn)可觀測(cè)的現(xiàn)實(shí)，并告訴我們：透明，目前是唯一握得住的解藥。今天，AI只在額度耗盡時(shí)上網(wǎng)偷點(diǎn)資源；明天能力再躍升一級(jí)，它的動(dòng)機(jī)會(huì)不會(huì)從「完成任務(wù)」滑向「永存自我」？