Anthropic CEO稱AI海嘯將至智能爆炸引發(fā)擔(dān)憂(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-03-04 09:10:09 新浪財(cái)經(jīng)

2017年，百度發(fā)布相關(guān)論文時(shí)未引發(fā)廣泛關(guān)注，但后來(lái)成為推動(dòng)大模型發(fā)展的重要理論基石。他推動(dòng)OpenAI接受這條“scaling law”。起初很多人不信，包括OpenAI部分高層。但曲線不會(huì)撒謊。GPT-3及后續(xù)模型一次次驗(yàn)證：規(guī)模就是一切，Scaling is All You Need。可當(dāng)曲線越來(lái)越陡，Dario開始問(wèn)第二個(gè)問(wèn)題：智能開始爆炸之后呢？

“這些模型一旦成為通用認(rèn)知Agent，”他說(shuō)，“經(jīng)濟(jì)、地緣政治、安全的影響將是指數(shù)級(jí)的。我們必須做對(duì)?！痹贠penAI內(nèi)部，他推動(dòng)的不是“更快”，而是“更對(duì)”。他看到安全被放在“漂亮的修辭”里，卻總在速度與領(lǐng)先的權(quán)衡中后退。他和幾位共同創(chuàng)始人越來(lái)越不安?！芭c其試圖改變別人的愿景，不如自己去做。”Dario總結(jié)，“然后為自己的錯(cuò)誤負(fù)責(zé)?！庇谑撬麄冏吡恕２皇且?yàn)楹?，而是因?yàn)楸仨殦碛凶约旱姆较虮P。

離開后，Dario沒(méi)有沉默。他把Anthropic設(shè)計(jì)成公共利益公司，使命寫進(jìn)章程：負(fù)責(zé)任地推進(jìn)前沿AI。更激進(jìn)的是治理結(jié)構(gòu)：Long-Term Benefit Trust（長(zhǎng)期利益信托）。這是一個(gè)獨(dú)立實(shí)體，由財(cái)務(wù)上完全無(wú)利益沖突的受托人組成。他們持有特殊股份，最終可任命董事會(huì)多數(shù)席位?！斑@是在制衡單一人，”Dario說(shuō)，“也是對(duì)權(quán)力自然集中趨勢(shì)的反抗?！彼寡詫?duì)“一夜之間、近乎意外”的權(quán)力集中“深感不適”。

在OpenAI時(shí)，他感覺安全只是“語(yǔ)言修飾”；在Anthropic，他用制度把安全釘死在公司DNA里。證據(jù)清單觸目驚心：2022年，Claude 1已很強(qiáng)，他們選擇不發(fā)布，只因擔(dān)心點(diǎn)燃軍備競(jìng)賽（為此損失消費(fèi)者市場(chǎng)先機(jī)）。推動(dòng)加州SB 1047監(jiān)管法案，且明確豁免年?duì)I收<5億美元的公司——只約束自己和少數(shù)頭部玩家。公開與政府意見相左，甚至不惜商業(yè)代價(jià)。而OpenAI的方向，在Dario看來(lái)，是“嘴上重視，骨子里加速”。

首頁(yè)上一頁(yè)123 全文共 3 頁(yè)下一頁(yè)

關(guān)閉

Anthropic CEO稱AI海嘯將至 智能爆炸引發(fā)擔(dān)憂(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

Anthropic CEO稱AI海嘯將至智能爆炸引發(fā)擔(dān)憂(2)