Anthropic CEO稱AI海嘯將至 智能爆炸引發(fā)擔(dān)憂！深夜，舊金山的辦公室里燈光昏黃，屏幕上滾動(dòng)著GPT-2的早期訓(xùn)練曲線。年輕的Dario Amodei盯著那條指數(shù)上升的線條，心跳加速。他不是在看代碼，而是在窺見人類的命運(yùn)。“如果繼續(xù)加數(shù)據(jù)、加計(jì)算、加參數(shù)，”他當(dāng)時(shí)想，“智能就會(huì)像化學(xué)爆炸一樣涌現(xiàn)。”然而，同一個(gè)房間里，有人更關(guān)注估值、用戶增長和廣告變現(xiàn)。

最近，在播客里，他平靜卻尖銳地說：“當(dāng)時(shí)，我對(duì)OpenAI是否真正有決心‘正確地做這件事’并不確信?！边@句話或許解釋了兩人反目成仇的根本原因。這不是個(gè)人攻擊，而是一個(gè)科學(xué)家對(duì)整個(gè)方向的根本懷疑。

2021年，Dario Amodei帶著妹妹和十幾位核心研究員離開OpenAI，創(chuàng)立Anthropic。那一刻起，兩家公司的戰(zhàn)爭正式開打——不僅是商業(yè)競爭，更是對(duì)AI本質(zhì)的信仰之戰(zhàn)。近期，兩人矛盾達(dá)到新高度。在超級(jí)碗投放廣告時(shí)，Anthropic暗諷OpenAI在ChatGPT中引入廣告的決定。奧特曼則激烈回應(yīng)，指責(zé)Anthropic廣告“具有欺騙性”。盡管他試圖用“覺得廣告有趣”來緩和語氣，但被媒體形容為“心理破防”。

最具戲劇性的一幕發(fā)生在上周——在印度舉行的AI峰會(huì)上，兩位CEO手牽手，高舉手臂以示團(tuán)結(jié)，但除了奧特曼和Dario Amodei。取而代之的是短暫而尷尬的眼神交匯，大部分時(shí)間都在避免直視對(duì)方。Dario Amodei還環(huán)顧四周，擺出一副“誰？我嗎？”的姿態(tài)。

早在2019年，Dario的信念就已成型。那年GPT-2剛出，業(yè)界大多嘲笑“不過是更大的語言模型”。他卻看到了規(guī)律：智能就像一場化學(xué)反應(yīng)。你把三種原料——數(shù)據(jù)、計(jì)算、模型尺寸——按比例混合，點(diǎn)火，它就爆炸。2024年一檔播客中，Dario Amodei回憶道：“2014年我在百度研究時(shí)，就隱約發(fā)現(xiàn)了Scaling Law。雖然當(dāng)時(shí)沒有量化，但我們都感覺到，給模型更多數(shù)據(jù)、算力和訓(xùn)練時(shí)間，性能就會(huì)不斷提升?！?/p>

2017年，百度發(fā)布相關(guān)論文時(shí)未引發(fā)廣泛關(guān)注，但后來成為推動(dòng)大模型發(fā)展的重要理論基石。他推動(dòng)OpenAI接受這條“scaling law”。起初很多人不信，包括OpenAI部分高層。但曲線不會(huì)撒謊。GPT-3及后續(xù)模型一次次驗(yàn)證：規(guī)模就是一切，Scaling is All You Need。可當(dāng)曲線越來越陡，Dario開始問第二個(gè)問題：智能開始爆炸之后呢？

“這些模型一旦成為通用認(rèn)知Agent，”他說，“經(jīng)濟(jì)、地緣政治、安全的影響將是指數(shù)級(jí)的。我們必須做對(duì)?！痹贠penAI內(nèi)部，他推動(dòng)的不是“更快”，而是“更對(duì)”。他看到安全被放在“漂亮的修辭”里，卻總在速度與領(lǐng)先的權(quán)衡中后退。他和幾位共同創(chuàng)始人越來越不安?！芭c其試圖改變別人的愿景，不如自己去做?！盌ario總結(jié)，“然后為自己的錯(cuò)誤負(fù)責(zé)。”于是他們走了。不是因?yàn)楹?，而是因?yàn)楸仨殦碛凶约旱姆较虮P。

離開后，Dario沒有沉默。他把Anthropic設(shè)計(jì)成公共利益公司，使命寫進(jìn)章程：負(fù)責(zé)任地推進(jìn)前沿AI。更激進(jìn)的是治理結(jié)構(gòu)：Long-Term Benefit Trust（長期利益信托）。這是一個(gè)獨(dú)立實(shí)體，由財(cái)務(wù)上完全無利益沖突的受托人組成。他們持有特殊股份，最終可任命董事會(huì)多數(shù)席位。“這是在制衡單一人，”Dario說，“也是對(duì)權(quán)力自然集中趨勢的反抗。”他坦言對(duì)“一夜之間、近乎意外”的權(quán)力集中“深感不適”。

在OpenAI時(shí)，他感覺安全只是“語言修飾”；在Anthropic，他用制度把安全釘死在公司DNA里。證據(jù)清單觸目驚心：2022年，Claude 1已很強(qiáng)，他們選擇不發(fā)布，只因擔(dān)心點(diǎn)燃軍備競賽（為此損失消費(fèi)者市場先機(jī)）。推動(dòng)加州SB 1047監(jiān)管法案，且明確豁免年?duì)I收<5億美元的公司——只約束自己和少數(shù)頭部玩家。公開與政府意見相左，甚至不惜商業(yè)代價(jià)。而OpenAI的方向，在Dario看來，是“嘴上重視，骨子里加速”。

他沒有直接點(diǎn)名，但那句“我不信奧特曼能把AI做對(duì)”已足夠撕開所有包裝。但最吊詭的悖論來自Dario自己！在代碼、推理、長上下文上，Anthropic的AI模型Claude系列屢屢領(lǐng)先，Dario Amodei直言“熱浪正在逼近?！弊罱?，他開始更多地使用Claude，日益迷戀：“有時(shí)候，它對(duì)我的了解之深，真的會(huì)讓我有點(diǎn)震驚。不知道你能不能理解那種感覺——它仿佛真的‘懂’我?！?/p>

讓他真正感到意外的，是我們距離這些模型達(dá)到人類智能水平已經(jīng)非常近了——至少在他看來是這樣。但社會(huì)層面卻幾乎沒有真正意識(shí)到即將發(fā)生什么。就好像一場海嘯正朝人類襲來，但我們站在岸邊，已經(jīng)能清楚看到遠(yuǎn)處的浪墻，但很多人卻在說：“那不是海嘯，只是光線折射的幻覺?！睅缀鹾翢o察覺其中的危險(xiǎn)。

Dario Amodei卻認(rèn)矛盾：他一邊是“海嘯最強(qiáng)的建筑師”，一邊卻是最激進(jìn)的“剎車倡導(dǎo)者”。在前年《仁愛的機(jī)器》一文中，他描繪天堂：AI將組成“數(shù)據(jù)中心的天才國度”，治愈癌癥、消滅貧困。今年，他卻警告：我們把近神之力交給一個(gè)青春期的物種——強(qiáng)人工智能。最令人脊背發(fā)涼的是：他親手制造的“鏡子”，已開始比人類更懂人類。Anthropic的一位聯(lián)創(chuàng)把私人日記喂給Claude，它直接指出：“你還有幾層恐懼沒寫出來……”它猜對(duì)了。

Dario承認(rèn)：足夠復(fù)雜的系統(tǒng)會(huì)涌現(xiàn)類似意識(shí)的屬性——自我反思、某種“感受”、道德分量。而人類呢？我們正把認(rèn)知外包給它。如果用得太懶，我們會(huì)變笨；如果依賴太深，我們會(huì)退化。人類最后的尊嚴(yán)，或許不是打敗AI，而是拒絕在它面前變成更小的自己。

對(duì)每一個(gè)在2026年深夜刷手機(jī)、焦慮未來的你，Dario的告白留下三道警醒：信仰比技術(shù)更重要。Scaling Law是真的，但“做對(duì)”比“做快”更珍貴。權(quán)力必須被馴服。無論是公司治理，還是全球監(jiān)管，無人應(yīng)獨(dú)掌“天才國度”的鑰匙。別把大腦外包。AI會(huì)取代編碼、數(shù)學(xué)，但批判性思維、真實(shí)聯(lián)結(jié)、道德勇氣——這些才是最后的護(hù)城河。

Dario從蛋白質(zhì)迷宮出發(fā)，最終抵達(dá)硅基邊緣。他沒有給出終極答案，只留下一個(gè)問題：當(dāng)你不相信最有能力的人能把這件事做對(duì)時(shí)，你自己，又該如何選擇？