Anthropic呼吁全員停止AI研究擔憂技術失控風險(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2026-06-05 13:24:05 新浪

Anthropic用了很多案例和數(shù)據(jù)來驗證這一點。例如，現(xiàn)在Anthropic的工程師平均每個季度交付的代碼量是2021年至2025年期間的8倍。AI模型能夠獨立可靠完成的任務時長大約每四個月翻一番，此前的趨勢是每七個月翻一番。截至2026年5月，Anthropic代碼庫中的代碼超過80%都由Claude生成。在難度最高的開放式任務中，Claude的成功率在2026年5月達到了76%，6個月內提升了50個百分點。

文章提到，無論在工程領域還是研究領域，Claude都可以與經(jīng)驗豐富的人類相媲美，甚至超越。人類只需提供目標，Claude就能夠自主處理問題找到解決方法。不過，在工程和研究領域，Claude在選擇目標的判斷能力仍然與人類存在巨大差距。這正是當今AI與未來能夠自主設計自身后續(xù)系統(tǒng)的AI的差距所在。

如果繼續(xù)發(fā)展下去，未來AI的開發(fā)將高度自動化，使用AI系統(tǒng)的組織將變得更加高效，生產(chǎn)力將得到顯著提升，100人的公司就能完成1萬人甚至10萬人的組織的工作量，這將徹底改變知識工作和政府服務，但也可能被用于有害目的。如果技術進步的趨勢持續(xù)下去，AI系統(tǒng)有可能進行自我設計和改進。在這樣的世界里，AI發(fā)展的速度將完全取決于計算資源，人類作用大幅降低。

最大的不確定性在于價值觀對齊問題。如今模型中罕見的偏差可能會隨著模型構建其后續(xù)版本而加劇，出現(xiàn)頻率越來越高，但人們對其理解卻越來越少，直至人類失去對它們的控制。Anthropic警告稱，目前的經(jīng)濟是由人類驅動的，而未來可能會被AI所主導，如果人類勞動力不再具有競爭力，經(jīng)濟將會是什么樣很難預測。

Anthropic提出對于上述問題的解決辦法：如果能夠有效減緩這項技術的發(fā)展速度，從而為人類提供更多時間來應對其巨大影響，這或許是一件好事。但這需要多個國家和多個位于前沿陣地且資源充足的實驗室達成一致，在相同條件下停止研發(fā)。Anthropic表示將與眾多機構合作去構建能驗證放緩或中止研發(fā)的系統(tǒng)，防止“惡意行為者利用協(xié)同放緩的契機搶占先機”。未來幾個月，Anthropic將組織一系列對話，邀請政策制定者、研究人員、社會組織等參與探討文章提出的一些問題和協(xié)商機制。

關閉

Anthropic呼吁全員停止AI研究 擔憂技術失控風險(2)

相關新聞

今日熱點

頻道熱點

Anthropic呼吁全員停止AI研究擔憂技術失控風險(2)