罕見！“AI巨頭”Anthropic呼吁全球暫停AI開發(fā)，警告模型正逐步具備“自我升級”能力！一家估值接近萬億美元、正沖刺IPO的AI公司，突然公開呼吁全球暫停AI開發(fā)。

6月4日，Anthropic在官方博客發(fā)布了一篇題為《當(dāng)AI構(gòu)建自身》（When AI Builds Itself）的長文。文章由公司聯(lián)合創(chuàng)始人Jack Clark和內(nèi)部研究機(jī)構(gòu)負(fù)責(zé)人Marina Favaro聯(lián)合署名，首次罕見對外披露了一批此前從未公開的內(nèi)部運(yùn)營數(shù)據(jù)。

這些數(shù)據(jù)顯示，AI正在以驚人速度加速AI自身的開發(fā)進(jìn)程：截至2026年5月，Anthropic超過80%合并入代碼庫的代碼由Claude撰寫；與2024年相比，工程師每日合并代碼量已增長8倍；在一項(xiàng)內(nèi)部研究調(diào)查中，員工估計(jì)使用最新模型Mythos Preview后，自身產(chǎn)出約為不使用任何AI工具時的4倍。

更關(guān)鍵的是，Anthropic提出了一個令整個AI行業(yè)不安的概念警示：“遞歸自我改進(jìn)”（recursive self-improvement）——即AI系統(tǒng)無需人類干預(yù)、自主設(shè)計(jì)并改進(jìn)其繼任者的能力。這一階段尚未到來，但“可能在未來兩年內(nèi)發(fā)生，甚至更早”。

根據(jù)這些數(shù)據(jù)，Anthropic提出一個在AI行業(yè)頗為罕見的主張：全球應(yīng)協(xié)調(diào)考慮暫?；蚍啪徢把谹I的開發(fā)。在業(yè)務(wù)高速擴(kuò)張之際，Anthropic卻主動呼吁“踩剎車”——這一反常舉動，正在華爾街和硅谷同時引發(fā)爭議。

批評者認(rèn)為，Anthropic此舉不過是其一貫“監(jiān)管俘獲”策略的延伸——通過渲染AI風(fēng)險(xiǎn)來給監(jiān)管部門施壓，從而限制競爭對手，尤其是那些開源模型的發(fā)展空間。也有人將Anthropic對自家"Mythos"網(wǎng)絡(luò)安全模型的限制性發(fā)布解讀為一種營銷手段：一方面炫耀能力，一方面又以“安全”為由拒絕全面開放。支持者則認(rèn)為，Anthropic對AI風(fēng)險(xiǎn)的警示有其真誠的一面。賓大沃頓商學(xué)院教授 Ethan Mollick表示，AI 實(shí)驗(yàn)室往往不是單一主體：它既有萬億美元公司的營銷、律師和資本邏輯，也有追求下一代模型的研究人員，還有真心憂慮未來的“哲學(xué)王”式人物。

數(shù)據(jù)本身已足夠震撼：Anthropic年化營收從2025年底的90億美元，將于2026年6月底飆升至500億美元；公司已秘密提交IPO文件；其最新模型Mythos Preview可連續(xù)工作超過16小時，并在首批測試中發(fā)現(xiàn)了全球最重要系統(tǒng)中逾一萬個高危軟件漏洞。

在這場“加速”與“剎車”的悖論中，Anthropic的這篇博文或許是迄今為止AI行業(yè)最誠實(shí)也最矛盾的自白。

1. 我們相信，讓世界擁有放緩或臨時暫停前沿AI開發(fā)的選項(xiàng)，將對世界有益——以使社會結(jié)構(gòu)和對齊研究能跟上技術(shù)進(jìn)步的步伐。

2. 訓(xùn)練運(yùn)行比導(dǎo)彈發(fā)射井更容易隱藏，其投入具有通用性，而且秘密違約的激勵極大，因?yàn)楫?dāng)其他人暫停時，繼續(xù)推進(jìn)者可能繼承領(lǐng)先地位。

3. AI遞歸自我改進(jìn)尚未發(fā)生，也并非不可避免。但它到來的時間，可能早于大多數(shù)機(jī)構(gòu)所準(zhǔn)備的。 那類技術(shù)從未存在過，但我（Jack Clark）相信這可能在未來兩年內(nèi)發(fā)生，甚至更早。

4. 如果系統(tǒng)能夠完全構(gòu)建自己的繼任者，那么我們保護(hù)、監(jiān)控并塑造其行為的方式就會變得重要得多。

5. 在缺乏協(xié)調(diào)一致的全球性放緩的情況下，我們面臨的是當(dāng)前局面：強(qiáng)大的技術(shù)正以令人窒息的速度，被各國各類行為者開發(fā)，彼此競爭，商業(yè)和地緣政治的角力正在淹沒這項(xiàng)技術(shù)對物種層面的存在性影響。

6. Claude撰寫的代碼在2025年底還略遜于人類，如今大致持平，我們預(yù)期一年內(nèi)將嚴(yán)格優(yōu)于人類。

7. 大約一年前，我開始大量使用Claude工作流程。那是一段瘋狂的經(jīng)歷，距離我最后一次親自寫代碼，現(xiàn)在已經(jīng)大約五個月了?！狝nthropic員工

8. 簡言之，“執(zhí)行”本身——寫代碼、跑實(shí)驗(yàn)、產(chǎn)出結(jié)果——如今幾乎不再消耗人類時間，盡管仍然消耗算力。

9. 順利的日子里，我不禁覺得我做的一切都無關(guān)緊要，一切都被自動化了，比我更快更好。但也有一切都崩了、我不明白為什么的日子，我意識到我已不再清楚自己究竟在做什么?！狝nthropic員工

10. Edison說天才是1%的靈感加99%的汗水。但我們看到汗水正在被日益自動化。

《當(dāng)AI構(gòu)建自身》（When AI Builds Itself）全文翻譯如下：

當(dāng)AI自我構(gòu)建

我們在遞歸自我改進(jìn)方面的進(jìn)展及其影響

在AI發(fā)展史的大部分時間里，人類主導(dǎo)著其發(fā)展周期的每一個步驟。但在Anthropic，我們正將越來越多的AI開發(fā)工作委托給AI系統(tǒng)本身，這正在加速我們的研發(fā)進(jìn)程。

如果這一趨勢延續(xù)足夠長的時間，并獲得足夠的算力，其最終指向是：AI系統(tǒng)將能夠完全自主地設(shè)計(jì)和開發(fā)自己的繼任者。這被稱為遞歸自我改進(jìn)。我們尚未達(dá)到這一階段，遞歸自我改進(jìn)也并非不可避免。但它到來的時間，可能早于大多數(shù)機(jī)構(gòu)所預(yù)期的。

Anthropic研究院利用公開基準(zhǔn)測試數(shù)據(jù)，以及Anthropic內(nèi)部此前未曾公開的數(shù)據(jù)，證明AI已經(jīng)在加速AI系統(tǒng)的開發(fā)。僅舉一例：如今，Anthropic工程師每季度平均提交的代碼量，是2021年至2025年間的8倍。

本文探討的技術(shù)趨勢表明，AI系統(tǒng)的能力將在未來數(shù)年內(nèi)大幅躍升。這些趨勢影響深遠(yuǎn)。能夠自我構(gòu)建的AI，將是技術(shù)史上的重大突破——它有望在科學(xué)、醫(yī)療等領(lǐng)域?yàn)槭澜鐜砭薮蟾ｌ怼５暾倪f歸自我改進(jìn)，也可能加劇人類失去對AI系統(tǒng)控制權(quán)的風(fēng)險(xiǎn)。一旦系統(tǒng)能夠完全自主構(gòu)建自身的繼任者，我們對其實(shí)施安全保障、監(jiān)控管理以及行為塑造的方式，都將變得遠(yuǎn)比現(xiàn)在更加重要。

構(gòu)建第一代Claude

早期，Anthropic的工作與其他科技公司并無二致：員工們在筆記本電腦上編寫代碼和文檔。

聊天機(jī)器人

人們開始借助早期聊天機(jī)器人輔助完成部分工作，例如生成簡短的代碼片段，再將輸出內(nèi)容復(fù)制到文本編輯器中。

編程智能體

隨著智能體能力的增強(qiáng)，它們能夠獨(dú)立編寫和修改代碼，有時甚至可以處理整個文件。

自主智能體

智能體現(xiàn)在可以自行運(yùn)行代碼，并將數(shù)小時的工作委派給其他智能體。

閉合循環(huán)

未來，智能體或?qū)⒕邆渥銐虻哪芰?，自主?gòu)建和訓(xùn)練模型。若果真如此，Claude的后續(xù)版本將能夠由Claude自身持續(xù)迭代改進(jìn)。

來自外部世界的證據(jù)

AI模型的進(jìn)步速度正在加快。模型能夠獨(dú)立可靠完成任務(wù)的時長，此前大約每七個月翻一番，如今這一周期已縮短至約每四個月翻一番。2024年3月，Claude Opus 3能夠完成人類約需四分鐘完成的軟件任務(wù)；一年后，Claude Sonnet 3.7已能處理約需一個半小時的任務(wù)；再過一年，Claude Opus 4.6已能勝任需時12小時的任務(wù)。1 若此趨勢持續(xù)，今年之內(nèi)，需要熟練人員數(shù)天才能完成的任務(wù)或?qū)⑦M(jìn)入AI的能力射程；到2027年，AI系統(tǒng)或許能夠勝任需要人類數(shù)周才能完成的工作。

同樣的規(guī)律也出現(xiàn)在編程和研究基準(zhǔn)測試中。基準(zhǔn)測試衡量模型在特定領(lǐng)域的表現(xiàn)，當(dāng)模型成績接近滿分時，該基準(zhǔn)即被視為"飽和"。2 SWE-bench是一項(xiàng)標(biāo)準(zhǔn)的真實(shí)世界軟件工程測試：它向模型提供一個真實(shí)的開源代碼庫和一份真實(shí)的缺陷報(bào)告，要求模型編寫代碼修復(fù)問題，并通過項(xiàng)目自身的測試。模型的得分已從個位數(shù)的低分，在兩年內(nèi)發(fā)展到使該基準(zhǔn)趨于飽和。

CORE-Bench測試模型能否復(fù)現(xiàn)已有研究成果，這是模型開展原創(chuàng)研究的前提條件。它向AI模型提供一篇已發(fā)表論文的代碼和數(shù)據(jù)，要求其重新運(yùn)行所有內(nèi)容并確認(rèn)能否復(fù)現(xiàn)論文結(jié)果。AI系統(tǒng)的復(fù)現(xiàn)成功率從2024年的約20%，在十五個月后便使該基準(zhǔn)趨于飽和。負(fù)責(zé)運(yùn)營長時任務(wù)基準(zhǔn)測試的METR發(fā)現(xiàn)，Claude Mythos Preview能夠持續(xù)工作"至少"16小時，已"處于[METR]在不引入新任務(wù)的情況下所能評測范圍的上限"。

公開基準(zhǔn)測試能夠揭示很多關(guān)于這些系統(tǒng)能力的信息，但無法反映AI系統(tǒng)對加速AI開發(fā)本身所產(chǎn)生的影響。要了解這一點(diǎn)，我們需要來自Anthropic等AI公司內(nèi)部的直接證據(jù)。

來自Anthropic內(nèi)部的證據(jù)

構(gòu)建一個前沿模型，大致需要兩類工作：其一是工程工作，包括編寫代碼、搭建基礎(chǔ)設(shè)施和監(jiān)督模型訓(xùn)練；其二是研究工作，包括決定運(yùn)行哪些實(shí)驗(yàn)、解讀實(shí)驗(yàn)結(jié)果，以及確定下一步嘗試哪些方向。

在工程和研究兩個領(lǐng)域，情況如出一轍。在工程方面，Claude可以接手一個規(guī)格不明確的問題并自行找出解決方案；人類提供目標(biāo)，但無需再提供方法。在研究方面，Claude在執(zhí)行規(guī)格明確的實(shí)驗(yàn)時，已能媲美乃至超越熟練的人類研究員。然而，在需要Claude自主判斷和設(shè)定目標(biāo)時，無論是工程還是研究領(lǐng)域，都仍存在顯著的能力差距。正是這一差距，將今天的AI與未來能夠自主設(shè)計(jì)繼任者的系統(tǒng)區(qū)分開來。

在Anthropic，員工隨著經(jīng)驗(yàn)積累，通常會承擔(dān)更具開放性和重要性的任務(wù)。最初，他們執(zhí)行別人指定好的任務(wù)，例如："導(dǎo)出按鈕失效了，請修復(fù)它。"隨著經(jīng)驗(yàn)增長，他們會接到一個目標(biāo)，然后自行設(shè)計(jì)解決方案，例如："調(diào)查一下為何網(wǎng)絡(luò)在高負(fù)載下會變慢。"在最高級別，他們需要自行判斷哪些問題值得解決："團(tuán)隊(duì)下個季度應(yīng)該做什么？"我們可以借助Anthropic的內(nèi)部數(shù)據(jù)，觀察Claude在處理這些不同類型任務(wù)方面已走了多遠(yuǎn)。

Claude已撰寫了Anthropic相當(dāng)大比例的代碼。 截至2026年5月，合并到Anthropic代碼庫中的代碼，超過80%由Claude創(chuàng)作。3 而在2025年2月Claude Code以研究預(yù)覽版發(fā)布之前，這一比例還處于個位數(shù)的低水平。這一轉(zhuǎn)變同樣體現(xiàn)在每位工程師的產(chǎn)出量上。每位工程師每天合并的代碼行數(shù)，在Anthropic最初四年（2021—2024年）保持穩(wěn)定，隨后在2025年開始上升——彼時Claude已從僅給出建議供工程師復(fù)制粘貼，轉(zhuǎn)變?yōu)槟軌蛑苯舆\(yùn)行代碼。2026年，隨著模型開始在更長時間跨度內(nèi)自主工作，這一增長斜率再度加陡。這兩個拐點(diǎn)如下圖所示。2026年第二季度，典型工程師每天合并的代碼量是2024年的8倍。? 這是因?yàn)榇罅看a由Claude編寫，工程師負(fù)責(zé)指導(dǎo)和審閱，而非自己親手輸入。

柱狀圖：按人員、按季度統(tǒng)計(jì)的代碼貢獻(xiàn)量，時間跨度從2021年第二季度至2026年第二季度。圖中標(biāo)注了八個不同模型的發(fā)布日期：Claude 1、Claude 2、Claude 3、Claude 4、Claude Code、Claude Sonnet 4.5、Claude Opus 4.5、Claude Mythos Preview（內(nèi)部訪問）及Claude Mythos Preview。

需要說明的是：代碼行數(shù)是一個不夠完善的衡量指標(biāo)，它衡量的是數(shù)量而非質(zhì)量。因此，2026年第二季度"每位工程師每天代碼量增至8倍"，幾乎可以肯定高估了實(shí)際的生產(chǎn)率提升幅度。盡管如此，它確實(shí)反映了一種加速態(tài)勢。在Anthropic，我們不以代碼行數(shù)論英雄；團(tuán)隊(duì)成員之所以產(chǎn)出更多代碼，純粹是因?yàn)樗麄兘柚鶤I系統(tǒng)寫出了更多代碼。

代碼行數(shù)的增長，與員工對生產(chǎn)率大幅提升的主觀感受相吻合。在2026年3月一項(xiàng)涵蓋Anthropic各研究團(tuán)隊(duì)130名員工的調(diào)查中，受訪者的中位估計(jì)是：與完全不使用任何AI模型相比，借助Mythos Preview，他們在同類項(xiàng)目上的產(chǎn)出約為原來的4倍。? 我們預(yù)計(jì)，當(dāng)時實(shí)際提升幅度會略低于此。? 盡管如此，我們認(rèn)為這一總體判斷是可信的，也與我們的其他觀察相符：Anthropic相當(dāng)大比例的技術(shù)員工，正在以比沒有AI輔助時快數(shù)倍的速度完成核心工作。

我們還觀察到，Anthropic的員工正在借助Claude完成一些原本不會發(fā)生的工作，例如構(gòu)建探索性工具、處理長期積壓的代碼清理任務(wù)。舉例來說，2026年4月，Claude提交了800多個修復(fù)補(bǔ)丁，將某類API錯誤減少了千分之一。監(jiān)督此項(xiàng)工作的工程師估計(jì)，同等工作量若由人類完成，需要四年時間；排查他人的缺陷既緩慢又費(fèi)力，而且人類很難同時在腦海中保持如此大量陌生的上下文信息。

"大約一年前，我開始大量使用Claude工作流程。那是一段瘋狂的經(jīng)歷，距離我最后一次親自寫代碼，現(xiàn)在已經(jīng)大約五個月了。" ——Anthropic員工*

Claude編寫的代碼質(zhì)量"過關(guān)"，且持續(xù)提升。 "好代碼"意味著兩件事：它能正常運(yùn)行，并且以其他工程師能夠理解和在其基礎(chǔ)上繼續(xù)開發(fā)的方式編寫。就第一條標(biāo)準(zhǔn)而言，證據(jù)是清晰的：Anthropic員工在Claude執(zhí)行任務(wù)過程中糾正、重新引導(dǎo)或接管任務(wù)的頻率，已穩(wěn)步下降長達(dá)一年，在最復(fù)雜、最開放性的任務(wù)上也不例外。這類任務(wù)的特點(diǎn)是沒有明確的規(guī)格要求，工程師自己也不確定答案應(yīng)該是什么樣的。這一點(diǎn)在Claude在不同難度任務(wù)上的成功率變化趨勢中清晰可見（如下圖所示）。Claude寫出的代碼，確實(shí)能用。

折線圖：Claude Code會話成功率（按四種任務(wù)類型——簡單任務(wù)、常規(guī)任務(wù)、有難度的任務(wù)及開放性問題——分別統(tǒng)計(jì)），包含六個不同模型：Claude Sonnet 4.5、Claude Opus 4.5、Claude Opus 4.6、Mythos Preview（內(nèi)部訪問）、Mythos Preview及Claude Opus 4.7。

閱讀說明：會話成功率由Claude評判；若Claude Code智能體明確完成了用戶任務(wù)且無需糾正，則該會話被視為成功。工作負(fù)載的變化可能導(dǎo)致成功率出現(xiàn)短期波動。

在最具開放性的任務(wù)上，Claude的成功率在2026年5月達(dá)到76%，六個月內(nèi)提升了50個百分點(diǎn)。以這一難度等級的任務(wù)為例：一次常規(guī)升級導(dǎo)致數(shù)萬個訓(xùn)練任務(wù)崩潰。一名工程師僅憑幾條文字說明和集群訪問權(quán)限，就將這一線上事故交給了Claude處理。Claude在運(yùn)行中的任務(wù)間逐一檢索，逐個測試環(huán)境設(shè)置，最終定位到觸發(fā)崩潰的單個晦澀調(diào)試標(biāo)志，可靠地復(fù)現(xiàn)了問題，并確認(rèn)了修復(fù)方案。整個過程約兩小時，完成了通常需要兩到三天才能完成的工作。

就第二條標(biāo)準(zhǔn)——編寫其他工程師能夠理解并在其基礎(chǔ)上繼續(xù)開發(fā)的代碼——而言，人類與AI之間的差距依然存在，但正在迅速縮小。Anthropic員工內(nèi)部尚未達(dá)成完全共識，但許多人認(rèn)為：2025年底，Claude編寫的代碼在質(zhì)量上仍略遜于Anthropic人類工程師編寫的代碼；而如今，兩者已大致持平。我們預(yù)計(jì)，在未來一年內(nèi)，Claude編寫的代碼質(zhì)量將超越人類。

這一變化也改變了Anthropic審查自身代碼的方式?，F(xiàn)在，提交到代碼庫的變更，必須先經(jīng)過一個自動化Claude審查工具的檢查——該工具在代碼合并前會主動發(fā)現(xiàn)缺陷、安全漏洞及其他問題。借助這一工具，我們進(jìn)行了回溯分析，發(fā)現(xiàn)如果對代碼庫的每次變更都進(jìn)行自動化Claude審查，歷史上約有三分之一曾導(dǎo)致claude.ai線上事故的缺陷，將在進(jìn)入生產(chǎn)環(huán)境之前就被攔截。而編寫這些代碼的工程師，本已是世界上構(gòu)建此類系統(tǒng)最頂尖的人才。如今，Claude正在捕捉他們所遺漏的錯誤。

"Claude編寫的代碼，在2025年底略遜于Anthropic人類工程師編寫的代碼，目前已大致持平，我們預(yù)計(jì)在今年內(nèi)將全面超越。"

Claude擅長圍繞既定目標(biāo)運(yùn)行實(shí)驗(yàn)。 每次Anthropic發(fā)布新模型，我們都會進(jìn)行同一項(xiàng)測試：給Claude一段訓(xùn)練小型AI模型的代碼，要求其在保證通過相同正確性檢驗(yàn)的前提下，盡可能提升代碼運(yùn)行速度。目標(biāo)和成功指標(biāo)事先固定，Claude的任務(wù)是通過重寫代碼、運(yùn)行代碼、計(jì)時，并反復(fù)迭代來尋找加速空間——這是一個實(shí)驗(yàn)研究循環(huán)的微縮版本。2025年5月，Claude Opus 4的平均加速比約為起始代碼的3倍；到2026年4月，Claude Mythos Preview已達(dá)到約52倍。作為參照，一位熟練的人類研究員需要四到八小時才能達(dá)到4倍加速。? 在這個研究工作流程的特定環(huán)節(jié)——對規(guī)格明確的實(shí)驗(yàn)內(nèi)部步驟進(jìn)行優(yōu)化——Claude在不到一年的時間內(nèi)，已從"極為有用"躍升至"超越人類"。

"當(dāng)前的格局大致是：'人類提出想法，模型能夠以比以前快一個數(shù)量級的速度來實(shí)現(xiàn)、測試和評估這些想法。'"

Claude正在逐步提升自主提出實(shí)驗(yàn)方案的能力。 2026年4月，Anthropic發(fā)布了Claude端到端運(yùn)行開放性研究項(xiàng)目的首次演示。Claude驅(qū)動的智能體被給定一個AI安全領(lǐng)域的開放性問題——大致是：較弱的模型能否可靠地監(jiān)督更強(qiáng)的模型？——然后被留下來自行解決。這涉及提出假設(shè)、進(jìn)行測試、與并行運(yùn)行的智能體共享發(fā)現(xiàn)，以及反復(fù)迭代。該任務(wù)有明確的性能"下限"和"上限"：下限是弱監(jiān)督者獨(dú)立運(yùn)作的表現(xiàn)，上限是強(qiáng)模型在正確答案訓(xùn)練下的表現(xiàn)。兩位人類研究員約花一周時間，彌補(bǔ)了該差距的約23%；而這些智能體在合計(jì)約800小時的運(yùn)算時間內(nèi)，彌補(bǔ)了97%，消耗算力成本約為18,000美元。

這項(xiàng)工作有一些需要說明之處：研究結(jié)果未能在生產(chǎn)規(guī)模的模型上得到完全復(fù)現(xiàn)，且人類仍然負(fù)責(zé)選定問題和制定評分標(biāo)準(zhǔn)。但在這些約束條件之內(nèi)，每一個實(shí)驗(yàn)都由智能體自主設(shè)計(jì)。方向設(shè)定，是人類所扮演的唯一實(shí)質(zhì)性角色。

"在一到兩天的時間里，Claude在幾乎沒有我介入的情況下完成了所有這些工作。我想，如果一位初級同事能在同樣的時間內(nèi)帶來這樣的成果，我會相當(dāng)驚訝。未來已至。"

Claude在引導(dǎo)研究會話走向研究發(fā)現(xiàn)方面正日益精進(jìn)。 我們檢視了2026年1月至3月間的真實(shí)Claude Code會話，其中Anthropic研究員正與Claude協(xié)作處理開放性調(diào)研問題，例如查明某次訓(xùn)練運(yùn)行為何反復(fù)崩潰，或某模型為何在基準(zhǔn)測試中得分不佳。在每一個案例中，我們都找到了一個研究員走了彎路的時刻——他們追求了一個方向，導(dǎo)致會話偏離軌道，直到最終重回正軌。隨后，我們僅向不同的Claude模型展示會話偏離軌道之前的內(nèi)容，詢問它下一步會怎么做。再由另一個能夠看到會話最終走向的Claude，判斷AI和人類哪一方建議了更好的下一步行動。?

由于我們刻意選取的是人類決策存在改進(jìn)空間的時刻（n=129），這并非模型與人類判斷力的同等條件對比。這些時刻為我們提供了一組真實(shí)、有挑戰(zhàn)性的場景——在這些場景中，正確的下一步并不明顯，而人類的選擇則作為衡量模型表現(xiàn)的有效參照基準(zhǔn)。在這一指標(biāo)上，我們2025年11月最優(yōu)模型（Opus 4.5）優(yōu)于人類選擇的比例為51%；到2026年4月（Mythos Preview），這一比例增至64%。研究工作的日常，在很大程度上是一連串"下一步該怎么做"的決策鏈，這使得上述指標(biāo)成為衡量模型最終能否獨(dú)立主導(dǎo)一項(xiàng)研究調(diào)查的相關(guān)指標(biāo)。我們將這一結(jié)果視為早期信號，表明AI系統(tǒng)在做出AI研究所依賴的判斷性決策方面正日益精進(jìn)。

柱狀圖，標(biāo)題為"模型能否比人類選出更好的下一步？"該圖展示了九個不同模型的表現(xiàn)：Claude 3 Haiku、Claude Sonnet 4、Claude Sonnet 4.5、Claude Haiku 4.5、Claude Opus 4.5、Claude Sonnet 4.6、Claude Opus 4.6、Claude Opus 4.7及Claude Mythos Preview。

閱讀說明："實(shí)際上限"線衡量的是"理想"答案——由一個能夠看到整個會話（包括最終結(jié)果）的模型給出。

"就目前而言，人類的比較優(yōu)勢仍在于把握全局，以及在當(dāng)前任務(wù)的局限之外進(jìn)行更宏觀的思考。"

Anthropic未來的工作形態(tài)會是什么樣子？

現(xiàn)有證據(jù)表明，在AI開發(fā)流程的每個環(huán)節(jié)，人類的角色都在收窄。一旦人類和AI編寫的代碼質(zhì)量達(dá)到對等，人類將完全停止編寫代碼，轉(zhuǎn)而只負(fù)責(zé)審查。但如果他們審查代碼的速度跟不上Claude生成代碼的速度，人類審查就會成為AI開發(fā)的瓶頸。同樣，一旦Claude能夠運(yùn)行實(shí)驗(yàn)，問題就會轉(zhuǎn)變?yōu)?quot;哪些實(shí)驗(yàn)值得運(yùn)行？"簡而言之：執(zhí)行層面（即編寫代碼、運(yùn)行實(shí)驗(yàn)、產(chǎn)出結(jié)果）在人力時間上的成本現(xiàn)在幾乎為零，即便在算力成本上依然存在。

目前，人類具有比較優(yōu)勢的領(lǐng)域，是研究品味與判斷力，包括：判斷哪些問題值得關(guān)注、哪些結(jié)果值得信任、以及何時某條路徑已走入死胡同。

"工作（乃至生活）曾運(yùn)行在一種人與人之間小恩小惠的饋贈經(jīng)濟(jì)之上。'能幫我跑一下這個腳本嗎？'……每一個這樣的請求都創(chuàng)造了一點(diǎn)點(diǎn)人情債，一點(diǎn)點(diǎn)彼此的牽絆。[Claude]更快，不產(chǎn)生人情債，但每一次這樣的交互，都是一次失去人與人之間協(xié)作機(jī)會的遺憾。"

"在一切運(yùn)轉(zhuǎn)順暢的日子里，我不禁覺得自己做的事情毫無意義——一切都已自動化，比我更好、更快。但也有一些日子，什么都壞掉了，我不明白為什么，然后我意識到，我已經(jīng)不知道自己究竟在做什么了。"

如果我們的判斷有誤呢？

對上述證據(jù)的一個自然反駁是：目前仍掌握在人類手中的工作——選擇研究什么問題——才是最重要的。缺乏這種判斷力，Claude只是一個能力出眾的助手，而非一個能夠獨(dú)立推動AI進(jìn)步的系統(tǒng)。

當(dāng)前的訓(xùn)練方法和架構(gòu)是否足以解鎖這種能力，目前尚無定論。但AI的進(jìn)步很少依靠"靈光乍現(xiàn)"。AI近期歷史上確實(shí)出現(xiàn)過幾次這樣的時刻，例如Transformer架構(gòu)或混合專家模型，但范式轉(zhuǎn)換級別的思想之間往往相隔數(shù)年。在這之間，大多數(shù)進(jìn)步都是漸進(jìn)式的：我們擴(kuò)大某項(xiàng)規(guī)模，觀察什么地方出現(xiàn)問題，修復(fù)它，再繼續(xù)嘗試。這恰恰是Claude如今最擅長的工作流程。愛迪生說，天才是1%的靈感加上99%的汗水。但我們正看到"汗水"的部分越來越多地被自動化取代。一個越來越清晰的事實(shí)是：推動前沿進(jìn)步的大部分工作是可以自動化的；大規(guī)模的研究進(jìn)展在很大程度上取決于工具和資源——它們決定了你運(yùn)行實(shí)驗(yàn)的速度、同時運(yùn)行的數(shù)量，以及獲得結(jié)果的效率。

即便退一步假設(shè)Claude永遠(yuǎn)無法形成良好的研究品味，我們的證據(jù)保守解讀之下，仍意味著復(fù)利式的加速。如果人類將大部分時間花在那占比極小的方向設(shè)定工作上，而Claude處理其余一切，那就意味著每位工程師或研究員所掌舵的工作量遠(yuǎn)超從前。我們觀察到的證據(jù)表明，Anthropic的員工既在加速前進(jìn)，也在拓寬覆蓋范圍。在實(shí)踐中，這意味著AI已經(jīng)讓Anthropic的運(yùn)轉(zhuǎn)速度遠(yuǎn)快于有效AI工具出現(xiàn)之前。

相對大膽的解讀則是：Claude研究判斷力持續(xù)改進(jìn)的早期證據(jù)——盡管目前尚顯微弱——表明這項(xiàng)能力同樣在進(jìn)步之中。"研究品味"或許不過是另一種AI系統(tǒng)曾經(jīng)不擅長、后來學(xué)會了的能力。我們在其他定性技能上見過類似的規(guī)律，比如AI系統(tǒng)學(xué)會解釋一個笑話為何好笑、展現(xiàn)心智理論，以及解開語言謎題。

可能的未來

接下來會發(fā)生什么，取決于兩件事：這一趨勢是否延續(xù)，以及如果它確實(shí)延續(xù)，我們選擇如何應(yīng)對。我們可以設(shè)想至少三種未來情景：

情景一：趨勢停滯，但今天的AI能力得到廣泛普及

本文中呈現(xiàn)了許多指數(shù)增長的軌跡。但這些軌跡實(shí)際上可能是S形曲線。我們或許正在接近曲線的拐點(diǎn)，在那里規(guī)?；貓?bào)開始遞減，曲線趨于平緩直至平坦。將優(yōu)秀研究員與卓越研究員區(qū)分開來的判斷力，或許是一種無法通過擴(kuò)大訓(xùn)練投入（如算力和數(shù)據(jù)）來獲得的能力。若果真如此，突破這一瓶頸將需要一個全新的思路——例如一種能夠取代當(dāng)前所有前沿模型所采用的Transformer架構(gòu)的新型架構(gòu)方案。

另一種可能是，AI進(jìn)步的關(guān)鍵制約因素在于供應(yīng)鏈，而非模型本身：推進(jìn)和普及前沿技術(shù)所需的能源和算力，可能超出當(dāng)前的供給能力。芯片制造速度、電網(wǎng)擴(kuò)容速度，或互聯(lián)帶寬，可能才是真正的瓶頸所在，而非智能本身。我們也無法排除AI生態(tài)系統(tǒng)遭受外生沖擊的可能性，例如算力或電力供應(yīng)的突然萎縮，這兩者中的任何一個都將拖慢進(jìn)展，并使各實(shí)驗(yàn)室的前瞻性投資成本大幅上升。此外，或許還存在我們尚未預(yù)料到的其他發(fā)展壁壘。

即便模型能力凍結(jié)在今天的水平，我們也預(yù)計(jì)世界將發(fā)生重大變化。"玻璃翼計(jì)劃"（Project Glasswing）是一個早期跡象：在項(xiàng)目啟動最初幾周內(nèi)，Mythos Preview便在全球最重要的系統(tǒng)中發(fā)現(xiàn)了超過一萬個高危及嚴(yán)重安全漏洞——數(shù)量之多，使得網(wǎng)絡(luò)防御的瓶頸已從"發(fā)現(xiàn)漏洞"轉(zhuǎn)移至"快速修復(fù)漏洞"。而今天的模型向更廣泛經(jīng)濟(jì)體的擴(kuò)散，目前仍處于早期階段——在那個未來，一家100人的公司將越來越能完成1000人公司的工作，因?yàn)槊课粏T工之下都將統(tǒng)率著一個由智能體構(gòu)成的金字塔。

我們列出這種情景是為了完整性，但我們認(rèn)為它不大可能發(fā)生。我們能夠測量的每一項(xiàng)能力，包括那些感覺更難量化的能力，如代碼質(zhì)量和開放性任務(wù)的成功率，迄今都遵循著相同的曲線，而我們尚未看到這條曲線出現(xiàn)彎折。在我們考慮的三種未來中，這種情景將給各國政府和社會留下最充裕的適應(yīng)時間。我們更擔(dān)憂接下來的兩種情景——它們的演變速度更快，留給準(zhǔn)備的空間也更為有限。

情景二：AI實(shí)驗(yàn)室持續(xù)獲得復(fù)利式效率提升

在這一情景中，AI開發(fā)在很大程度上實(shí)現(xiàn)了自動化，但人類繼續(xù)設(shè)定研究方向并評判結(jié)果。使用AI系統(tǒng)的組織將隨著時間推移變得效率大增，因此我們可以預(yù)見每位員工將獲得顯著的生產(chǎn)率倍增效應(yīng)——100人的公司能夠完成相當(dāng)于1萬人乃至10萬人規(guī)模的工作。這將徹底變革知識工作和政府服務(wù)，但也可能被用于有害目的，從對整個人口實(shí)施威權(quán)式監(jiān)控，到針對每個個體量身定制、以超越任何人類團(tuán)隊(duì)所能匹敵的規(guī)模運(yùn)作的影響力操縱行動。

Anthropic等公司的人員角色將隨之轉(zhuǎn)變：人們將與AI系統(tǒng)攜手，擴(kuò)大研究規(guī)模、催生新的洞見，并共同構(gòu)建驗(yàn)證AI輸出可信度所必需的系統(tǒng)。

我們在本文中呈現(xiàn)的證據(jù)表明，我們很可能正在走向這一情景。但加速流程的某一環(huán)節(jié)，往往只是將瓶頸轉(zhuǎn)移到別處：整體速度受制于尚未提速的部分。在計(jì)算機(jī)科學(xué)領(lǐng)域，這被稱為阿姆達(dá)爾定律，同樣的邏輯也適用于組織管理。Anthropic已經(jīng)遭遇了阿姆達(dá)爾定律的一個典型特征：隨著我們在組織內(nèi)推動更多代碼流轉(zhuǎn)，人工代碼審查已成為新的瓶頸。

我們在工程領(lǐng)域之外也遭遇了這種摩擦。由于Anthropic員工與高能力模型協(xié)作，新想法、新舉措、新工具和新模擬方案如雨后春筍般涌現(xiàn)——其數(shù)量遠(yuǎn)超我們實(shí)際推進(jìn)的能力。組織識別并修復(fù)這些瓶頸的速度，或許是一種會隨時間積累的能力，并可能成為任何組織最重要的核心競爭力。

情景三：AI系統(tǒng)自身具備完整的遞歸自我改進(jìn)能力，并開始構(gòu)建自己的繼任者

如果能力提升的技術(shù)趨勢持續(xù)，而AI系統(tǒng)能夠發(fā)展出人類變革性創(chuàng)造力所固有的那些能力，那么AI系統(tǒng)自主設(shè)計(jì)和改進(jìn)自身，是完全有可能發(fā)生的。

在這個世界里，AI開發(fā)的進(jìn)步速度將完全取決于AI系統(tǒng)可用的算力（或在算法訓(xùn)練與推理效率發(fā)現(xiàn)上的速度）。人類在AI開發(fā)中扮演的角色將大幅弱化，我們的工作重心可能大多轉(zhuǎn)向?qū)σ粋€由AI系統(tǒng)運(yùn)營的不斷擴(kuò)張的"虛擬實(shí)驗(yàn)室"進(jìn)行監(jiān)督、驗(yàn)證和核查。我們預(yù)計(jì)，具備自動化AI研發(fā)能力的系統(tǒng)，其能力將遷移至其他科學(xué)領(lǐng)域，并開始革新那些領(lǐng)域。

這種未來中，對齊問題將如何被解決——或無法被解決——是我們最不確定的地方。模型或許會被證明足夠?qū)R，并具備足夠的研究品味，能夠自主探索和實(shí)現(xiàn)我們尚未觸及的新解決方案；它們也可能足夠明智，在條件不成熟時主動停止開發(fā)。但另一種可能同樣存在：今天模型中罕見出現(xiàn)的錯誤對齊，在模型構(gòu)建其繼任者的過程中不斷累積疊加，變得越來越頻繁卻越來越難以理解，直至我們最終失去對它們的控制。而我們或許沒有足夠的時間和能力來構(gòu)建、整合并驗(yàn)證那些我們所需的工具，以判斷自己究竟身處哪條軌道之上。

對于這個世界會是什么樣子，我們沒有良好的直覺，因?yàn)槲覀儺?dāng)前的經(jīng)濟(jì)是由人類和人類建造的工具所驅(qū)動的。就其本質(zhì)而言，一個由快速遞歸自我改進(jìn)所驅(qū)動的世界，可能會在自我改進(jìn)模型的能力全面超越人類、并向更廣泛經(jīng)濟(jì)體擴(kuò)散蔓延的過程中，被這一模型所主導(dǎo)。如果人類勞動力失去競爭力，屆時的經(jīng)濟(jì)形態(tài)將難以預(yù)測。

即便模型開發(fā)完全實(shí)現(xiàn)自動化并進(jìn)入遞歸模式，我們也無法預(yù)測這對大多數(shù)普通人的日常生活意味著什么。阿姆達(dá)爾定律在此同樣適用。遞歸智能可能在某些領(lǐng)域迅速實(shí)現(xiàn)《仁愛之機(jī)》（Machines of Loving Grace）所描繪的眾多美好前景。我們預(yù)計(jì)，具身智能（即機(jī)器人技術(shù)）可能緊隨遞歸智能之后迅速跟進(jìn)，遵循類似的以遞減成本實(shí)現(xiàn)遞增回報(bào)的發(fā)展路徑。更強(qiáng)大的智能可能幫助我們更快地建造物理世界中的事物，讓救命新藥的臨床試驗(yàn)更富成效，并開發(fā)出全新的協(xié)作協(xié)調(diào)形式。

但僅僅實(shí)現(xiàn)遞歸式改進(jìn)，并不意味著工業(yè)生產(chǎn)方式、社會組織形態(tài)或市場運(yùn)作機(jī)制會立即發(fā)生變化。更強(qiáng)大的智能無法加速獲知一種藥物數(shù)十年使用后的效果，無法讓選舉提前于憲法規(guī)定的日期舉行，也無法在一個周末內(nèi)將陌生人變成老朋友。對于大多數(shù)人來說，這種未來在體感上依然會被瓶頸所左右，即便上游的實(shí)驗(yàn)室正以算力的速度奔涌向前。在這里，遞歸智能以越來越快的速度自我構(gòu)建，與人類、關(guān)系和治理構(gòu)成的現(xiàn)實(shí)世界相撞——那個碰撞點(diǎn)會是什么樣子，是這種未來中另一個我們無法預(yù)言的部分。

我們應(yīng)該怎么做？

如果能夠有效地放緩這項(xiàng)技術(shù)的發(fā)展速度，為自身爭取更多時間來應(yīng)對其深遠(yuǎn)影響，我們認(rèn)為這很可能是一件好事。但如果放緩只是讓最不謹(jǐn)慎的行為者在技術(shù)上迎頭趕上，最終結(jié)果可能讓所有人都更不安全。在缺乏全球協(xié)調(diào)機(jī)制的情況下，各公司和各國政府將不得不在競爭壓力和地緣政治壓力之下，做出艱難的安全抉擇。

我們認(rèn)為，賦予世界放緩乃至?xí)和Ｇ把谹I開發(fā)的選項(xiàng)，將是有益的——這有助于社會結(jié)構(gòu)和對齊研究跟上技術(shù)進(jìn)步的步伐。Anthropic研究院將與眾多合作方開展研究，并采取實(shí)際行動，幫助構(gòu)建一個可信的減速或暫停機(jī)制所需的制度體系。這些體系將使前沿AI開發(fā)者能夠核實(shí)全球其他機(jī)構(gòu)是否真正停止或放緩了開發(fā)，并確保沒有不良行為者借助協(xié)調(diào)減速之名，暗中搶先推進(jìn)。如果這樣的體系得以建立，我們預(yù)計(jì)我們將選擇減速或暫停，前提是其他處于或接近前沿的開發(fā)者也以可核實(shí)的方式同步這樣做。

一次有意義的減速或暫停，需要多個資源充足、處于或接近前沿的實(shí)驗(yàn)室，跨越多個國家，在相同條件下達(dá)成停止協(xié)議；同時還需要各方能夠核實(shí)對方確實(shí)已停止。由于AI系統(tǒng)的獨(dú)特屬性，這一軍備控制難題中的"可檢測性"（低于"可核查性"的標(biāo)準(zhǔn)）遠(yuǎn)比其他技術(shù)更具挑戰(zhàn)性。訓(xùn)練運(yùn)行遠(yuǎn)比導(dǎo)彈發(fā)射井更易于隱蔽，其投入是通用性的，而悄然違約的激勵極為強(qiáng)烈——因?yàn)樵谒送２綍r繼續(xù)前進(jìn)者，將有機(jī)會繼承領(lǐng)先地位。一個可信的暫停機(jī)制還必須明確規(guī)定：什么條件觸發(fā)暫停、什么條件解除暫停，以及由誰進(jìn)行裁定。

這一切在原則上并非不可能——世界曾為其他復(fù)雜技術(shù)建立過核查機(jī)制（例如《中程核力量條約》），但彼時構(gòu)建基礎(chǔ)設(shè)施和建立互信都花費(fèi)了數(shù)十年時間。而我們沒有那么多時間。相比之下，一家實(shí)驗(yàn)室的單方面暫停雖然可以立即實(shí)現(xiàn)，但收效甚微：它只會改變誰是領(lǐng)跑者，卻無法催生目前所缺失的那種更廣泛的審議過程。

在未來數(shù)月，我們將組織對話，邀請政策制定者、研究人員、公民社會和其他AI公司，共同探討本文所提出的若干問題，尤其是圍繞完整遞歸自我改進(jìn)，以及如何為協(xié)調(diào)與審議創(chuàng)造更好條件等議題。我們將公布這些對話的成果。共同探討這些問題的窗口已經(jīng)開啟，AI公司以外的人們理應(yīng)參與到這場審議之中。

Marina Favaro與Jack Clark聯(lián)合撰寫本文，Santi Ruiz提供編輯支持。Shan Carter、Romello Goodman和Nikki Makagiansar依據(jù)Brian Calvert與Jun Shern Chan收集的數(shù)據(jù)制作了可視化圖表。Daniel Freeman、Jim Baker、Max Young、Sarah Pollack、Francesco Mosconi、Holden Karnofsky、Andy Jones、Kevin Troy、Anton Korinek、Meg Tong、Andrew Ho、Dan Altman、Drake Thomas、Jack Shen、Sasha de Marigny及Avital Balwit提供了反饋意見。

* 本文中Anthropic員工的引言，均來自內(nèi)部討論，并已獲當(dāng)事人許可使用。這些引言反映的是個人于2026年5月的觀點(diǎn)，并非公司官方立場。