Anthropic呼吁全員停止AI研究 擔憂技術(shù)失控風險
Anthropic呼吁全員停止AI研究 擔憂技術(shù)失控風險。北京時間6月5日，大模型廠商Anthropic發(fā)布長文稱，內(nèi)部觀察到Claude正在加速AI的發(fā)展，這可能是通往遞歸自我改進的路徑，意味著AI能自主構(gòu)建下一代AI是完全可能的。Anthropic認為，能夠自主迭代的AI是人類科技史上里程碑式的突破，能在生物醫(yī)藥、前沿科研等領域帶來巨大好處，但也可能讓對齊問題疊加惡化，最終導致失控。Anthropic建議世界選擇放慢或暫時停止前沿人工智能的發(fā)展，使社會結(jié)構(gòu)和價值觀對齊研究能夠跟上技術(shù)進步。
這不是Anthropic第一次對AI發(fā)展進行預警。今年2月，Anthropic發(fā)布了一份53頁報告，提到新模型已逼近4級AI風險等級，有朝一日AI可能會自我逃逸，造成全球失控。然而，這篇文章發(fā)布前，Anthropic剛秘密提交IPO文件，完成巨額融資，估值飆升。在這一背景下，文章立場顯得不夠中立。不少網(wǎng)友認為這可能是Anthropic的營銷和炒作手段，“為了籌款的演示文稿”。
沃頓商學院副教授Ethan Mollick轉(zhuǎn)發(fā)了Anthropic的帖子，認為文章值得一讀，雖然其中有一些自省和營銷內(nèi)容，但也包含很多Anthropic對AI近期和未來可能性的看法。
在文章中，Anthropic表示，一直以來都是人類主導了AI開發(fā)周期的每一個步驟，但在Anthropic，員工正在將越來越多的AI開發(fā)工作委托給AI系統(tǒng)本身，并加快了工作速度。如果這種趨勢發(fā)展到一定程度并擁有足夠的計算能力，那么AI系統(tǒng)最終將能夠完全自主地設計和開發(fā)自身的后續(xù)版本。盡管尚未達到這一目標，但它的到來可能比大多數(shù)機構(gòu)的準備時間要早。
余華爆料蘇童手寫信的信件內(nèi)容大同小異，堪稱群發(fā)式約稿
祝你每個明天都666 愿一切順利
追覓CEO俞浩微博被禁言 爭議言論引關注
航母福建艦最新動態(tài)曝光 配置差異引發(fā)討論
五眼聯(lián)盟間諜竊密劣跡斑斑 全球無底線監(jiān)聽監(jiān)控
北約秘書長警告俄軍傷亡慘重 渲染戰(zhàn)場恐怖氛圍
沖繩恐成日本再軍事化棋子 強化戰(zhàn)時醫(yī)療體制
華北黃淮等地將有較強降水 警惕強對流天氣
美股芯片股，全線下跌 半導體板塊遭重挫
車主開邁巴赫上班失控撞墻，其質(zhì)疑車輛故障導致：說我沒有踩剎車，剎車燈為什么亮
俄方：普京不會赴美觀看世界杯 婉拒特朗普邀請
美軍一飛行員在中東兩次被擊落 罕見經(jīng)歷引發(fā)關注
我國東部海域?qū)⒂?-7級風 未來三天持續(xù)偏南風
男子在商場廁所門口滑倒索賠四五千 之前也有人中招？
公職人員離婚分割近億財產(chǎn) 巨額資產(chǎn)來源成謎
澤連斯基向普京發(fā)出公開信 提議直接會晤結(jié)束沖突
追覓俞浩被禁言 賬號違規(guī)遭處理
金毛狗突發(fā)中暑獸醫(yī)上演教科書式急救 狗狗獲救后用感謝手勢“答復”醫(yī)生
全線跳水！超14萬人爆倉 比特幣減持引發(fā)市場動蕩
限制特朗普對伊動武決議通過 國會限制總統(tǒng)軍事權(quán)
美方關稅“一增一降” 商務部表態(tài) 中美經(jīng)貿(mào)關系需穩(wěn)定
余華爆料蘇童手寫信的信件內(nèi)容大同小異，堪稱群發(fā)式約稿
特朗普前國安顧問博爾頓為何改口認罪 達成認罪協(xié)議
祝你每個明天都666 愿一切順利
中國往返伊朗航線恢復運營 每周16班直飛
普京：俄方愿在美國安克雷奇與烏談判 澤連斯基提議直接會晤
美媒：特朗普中期選舉策略引爭議 共和黨人措手不及
為什么總覺得湖北一高考就下雨：雨季與高考的巧合
追覓CEO俞浩微博被禁言 爭議言論引關注
業(yè)主不滿停車費漲價被物業(yè)罵住不起滾 物業(yè)與業(yè)主爭執(zhí)升級
跟著《主角》游商洛 平凡人的主角之旅
3人P圖辦假證開了40多家蛋糕店 偽造證照牟利鏈條被斬斷
G7峰會將召開，馬克龍“攢局”：奧爾特曼確認要來，孫正義計劃在法投資 AI成焦點議題
老人剮蹭私家車車主不要賠償反手幫了一把 善意接力溫暖街頭
美媒：中國汽車在美取得突破 吉利打開市場準入大門
相關新聞
Anthropic官宣估值升至9650億美元 融資加速AI研究與發(fā)展
Anthropic宣布完成H輪融資，總額達650億美元，投后估值9650億美元，超過OpenAI
2026-05-29 09:40:35Anthropic官宣估值升至9650億美元罕見！“AI巨頭”Anthropic呼吁全球暫停AI開發(fā)，警告模型正逐步具備“自我升級”能力
2026-06-05 10:29:24Anthropic呼吁全球暫停AI開發(fā)Anthropic發(fā)布網(wǎng)絡安全建議 應對AI威脅環(huán)境
Anthropic就AI時代網(wǎng)絡安全防御提出了一系列建議，并表示隨著Project Glasswing合作伙伴關系的推進，將持續(xù)更新相關指引
2026-04-11 12:41:22Anthropic發(fā)布網(wǎng)絡安全建議Anthropic被馬斯克貼臉開罵 AI模型紛爭升級
2026-02-25 19:21:32Anthropic被馬斯克貼臉開罵特朗普“封殺”Anthropic AI限制之爭升級
2026-03-02 09:55:21特朗普封殺Anthropic全球“AI新王”將誕生 Anthropic估值狂飆
全球AI界迎來了一位新領袖。近日，彭博社和華爾街日報等多家權(quán)威媒體確認，Anthropic即將完成超過300億美元的融資，投后估值突破9000億美元
2026-05-29 11:25:48全球AI新王將誕生
