上千名科技專(zhuān)家呼吁暫停大型AI研究包括馬斯克等

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 14:15:58

原標(biāo)題：馬斯克等千名科技人士發(fā)公開(kāi)信：暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)

最近幾天，人工智能風(fēng)險(xiǎn)引發(fā)了多位科技領(lǐng)袖的深切擔(dān)憂(yōu)。

首先是被稱(chēng)為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton），他上周在接受哥倫比亞廣播公司采訪時(shí)表示，人工智能可能發(fā)展到對(duì)人類(lèi)構(gòu)成威脅“并非不可想象”的地步。

隨后，AI“大牛”蓋瑞·馬庫(kù)斯（Gary Marcus）3月27日發(fā)推響應(yīng)辛頓，28日又發(fā)表題為“人工智能風(fēng)險(xiǎn)≠通用人工智能風(fēng)險(xiǎn)”的文章，稱(chēng)超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫，但在短期內(nèi)，需要擔(dān)心“MAI（平庸人工智能）風(fēng)險(xiǎn)”。

27日，推特CEO伊隆·馬斯克也加入進(jìn)來(lái)，表達(dá)對(duì)辛頓和馬庫(kù)斯的贊同。

馬斯克在社交網(wǎng)絡(luò)上與杰弗里·辛頓和蓋瑞·馬庫(kù)斯互動(dòng)。

29日，未來(lái)生命研究所（Future of Life Institute）公布一封公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。

辛頓、馬庫(kù)斯和馬斯克均簽署了這封公開(kāi)信。

“加快開(kāi)發(fā)強(qiáng)大的AI治理系統(tǒng)”

未來(lái)生命研究所的這封公開(kāi)信題為“暫停巨型AI實(shí)驗(yàn)：一封公開(kāi)信”，于29日解封。

未來(lái)生命研究所的公開(kāi)信已有1079人簽署。

信中寫(xiě)道：

廣泛的研究表明，具有與人類(lèi)競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，這一觀點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。

正如廣泛認(rèn)可的“阿西洛馬人工智能原則（Asilomar AI Principles，阿西莫夫的機(jī)器人三大法則的擴(kuò)展版本，于2017年由近千名人工智能和機(jī)器人專(zhuān)家簽署）中所述，高級(jí)AI可能代表地球生命史上的深刻變化，應(yīng)該以相應(yīng)的關(guān)照和資源進(jìn)行規(guī)劃和管理。

12 3 4...全文共 6 頁(yè)下一頁(yè)

關(guān)閉

上千名科技專(zhuān)家呼吁暫停大型AI研究 包括馬斯克等

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

上千名科技專(zhuān)家呼吁暫停大型AI研究包括馬斯克等