Anthropic如何打造憲法式人工智能安全至上的理念(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2026-03-31 17:52:02 礪石商業(yè)評論

Anthropic成立之初，被質疑最多的是與OpenAI有何不同。兩者根本區(qū)別在于對人工智能構建體系的排序。OpenAI選擇了“性能優(yōu)先，安全迭代”，而Anthropic則堅持“安全第一，功能殿后”。這意味著當用戶的請求與“不造成損害”的核心原則相沖突時，Anthropic的模型會啟動內置的審查機制，選擇拒絕響應。這種設計并不符合用戶期待，但也讓Anthropic得到了很多差評。然而，達里奧及團隊并不在意，他們將這套邏輯做成了一個叫“Constitutional AI”的方法論，即通過創(chuàng)造一套明確的價值觀原則，讓AI用這套原則評判和修正自己的輸出。

Anthropic的成功在于精準押注企業(yè)級市場，而非個人用戶。創(chuàng)立僅四年時間，近80%的收入來源于企業(yè)客戶。在《財富》全球500強中排名前十的巨頭里，有八家已是Claude的付費用戶。這些企業(yè)需要一個能無縫嵌入核心業(yè)務流程、行為絕對可預測、輸出極端穩(wěn)定、權責清晰無誤的“專業(yè)工具”。Anthropic將這種“可信”的承諾轉化為可被精確度量與驗證的性能指標。例如，在衡量AI“虛構事實”傾向的核心測試中，Claude 3.5 Sonnet的表現顯著優(yōu)于行業(yè)基準GPT-4。

然而，商業(yè)擴張的壓力逐漸壓過了Anthropic曾經倡導的“安全至上”初心。2026年2月9日，Anthropic的安全負責人Sharma辭職離任，留下一句簡短卻沉重的警告：“世界處于危險之中?！迸c此同時，公司官網上的“安全承諾”被悄然修改，替換為一個更溫和的表述：“風險報告”。這表明在商業(yè)目標面前，Anthropic曾經堅守的安全原則防線可能已經出現松動。

對于Anthropic來說，眼下更深層的困境正逐步浮現：自身所依賴的那部“AI憲法”，其核心原則究竟交由誰來定義？面對這種關于“度”的永恒爭議，很難得到真正的答案。達里奧與丹妮拉選擇了躍入潮水之中，并試圖在洪流里拉起一道繩索，目的是“讓AI知曉它不應涉足的邊界”。這一切能否堅持下去，無人知曉，一切依然需要時間的檢驗。

首頁上一頁 12共 2 頁

(責任編輯：0764)

關閉

Anthropic如何打造憲法式人工智能 安全至上的理念(2)

相關新聞

今日熱點

頻道熱點

Anthropic如何打造憲法式人工智能安全至上的理念(2)