Anthropic如何打造憲法式人工智能安全至上的理念

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-03-31 17:52:02 礪石商業(yè)評論

2026年2月，硅谷發(fā)生了兩件令人震驚的新聞。Anthropic的安全負(fù)責(zé)人突然辭職，并警告“世界處于危險之中”。幾乎同時，五角大樓要求該公司解除其王牌模型Claude的核心安全限制，但遭到拒絕。這兩件事從不同方向拉扯著名為“AI安全”的韁繩，而這正是Anthropic存在的全部理由。

時間倒回2021年，出于對AI失控的深切恐懼，前OpenAI高管達(dá)里奧·阿莫迪與負(fù)責(zé)安全政策的妹妹丹妮拉帶領(lǐng)七名同事出走，創(chuàng)立了Anthropic。他們的核心命題只有一個：如何控制比人類更聰明的AI。短短四年間，公司估值飆升至3800億美元，客戶名單囊括全球頂級企業(yè)。然而，國家力量的介入使這家曾經(jīng)為防范風(fēng)險而生的公司陷入自設(shè)的困局。

達(dá)里奧和丹妮拉出生于一個意大利裔家庭，父親是一位精通各類皮料的工匠，母親在圖書館工作。兄妹二人自幼成績優(yōu)異，畢業(yè)后卻走上截然不同的人生道路。達(dá)里奧早年就讀于加州理工，中途轉(zhuǎn)至斯坦福取得物理學(xué)學(xué)士學(xué)位，隨后在普林斯頓獲得生物物理學(xué)博士學(xué)位。他最初的研究與AI無關(guān)，直到2013年前后，隨著深度學(xué)習(xí)浪潮興起，他憑借頂尖的學(xué)術(shù)背景加入百度參與Deep Speech 2.0語音識別項目，隨后轉(zhuǎn)投Google Brain，確立了自己在AI領(lǐng)域的核心方向。

相比之下，丹妮拉的發(fā)展更為非典型。她憑借古典長笛獎學(xué)金，在加州大學(xué)圣克魯茲分校攻讀英語文學(xué)學(xué)位，畢業(yè)后進(jìn)入公共事務(wù)領(lǐng)域，積累了豐富的實戰(zhàn)經(jīng)驗。隨后她轉(zhuǎn)向科技行業(yè)，成為金融科技公司Stripe的早期員工。外界這樣概括兄妹倆的角色：達(dá)里奧猶如眺望地平線的“望遠(yuǎn)鏡”，丹妮拉則是夯實地基的“建筑師”。

2016年，達(dá)里奧離開Google Brain加入OpenAI，妹妹丹妮拉于2018年跟隨而來。接下來的五年，達(dá)里奧主導(dǎo)了GPT-2和GPT-3的開發(fā)，成為技術(shù)方向上最有分量的人之一。然而，隨著GPT-3的開發(fā)，裂痕開始公開化。達(dá)里奧認(rèn)為必須放慢更新速度以防止惡意使用，而奧特曼則主張快速迭代、盡快商業(yè)化。最終，達(dá)里奧與妹妹丹妮拉及其他七人離開OpenAI，成立了Anthropic。

12 全文共 2 頁下一頁

關(guān)閉

Anthropic如何打造憲法式人工智能 安全至上的理念

相關(guān)新聞

今日熱點

頻道熱點

Anthropic如何打造憲法式人工智能安全至上的理念