馬斯克呼吁停訓(xùn)AI系統(tǒng) 稱可能導(dǎo)致核戰(zhàn)爭(zhēng)和更嚴(yán)重的疫情(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 16:18:22 澎湃新聞

“當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上變得與人類具有競(jìng)爭(zhēng)力，我們必須捫心自問(wèn)：我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？我們是否應(yīng)該自動(dòng)化所有工作，包括令人滿意的工作？我們是否應(yīng)該發(fā)展最終可能比我們更多、更聰明，淘汰并取代我們的非人類思維？我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？”這封信寫道，“只有當(dāng)我們確信它們的影響是積極的并且風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)。這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的規(guī)模而增加。OpenAI最近關(guān)于通用人工智能的聲明指出，‘在某些時(shí)候，在開(kāi)始訓(xùn)練未來(lái)的系統(tǒng)之前進(jìn)行獨(dú)立審查可能很重要，并且對(duì)于最先進(jìn)的工作來(lái)說(shuō)，應(yīng)該同意限制用于創(chuàng)建新模型的計(jì)算量增長(zhǎng)?！覀兺狻Ｄ莻€(gè)某些時(shí)候就是現(xiàn)在。”

這封信呼吁，所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。這種暫停應(yīng)該是公開(kāi)的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這種暫停，政府應(yīng)介入并實(shí)行暫停。人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停，共同開(kāi)發(fā)和實(shí)施一套用于高級(jí)人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)是安全的，并且無(wú)可置疑。這并不意味著總體上暫停AI開(kāi)發(fā)，只是緊急從奔向不可預(yù)測(cè)的大型黑盒模型的危險(xiǎn)競(jìng)賽中收回腳步。

與此同時(shí)，信中指出，AI開(kāi)發(fā)人員必須與政策制定者合作，以顯著加快開(kāi)發(fā)強(qiáng)大的AI治理系統(tǒng)。至少應(yīng)包括：建立專門負(fù)責(zé)AI的有能力的新監(jiān)管機(jī)構(gòu)；監(jiān)督和跟蹤高性能人工智能系統(tǒng)和大量計(jì)算能力；推出標(biāo)明來(lái)源系統(tǒng)和水印系統(tǒng)，以幫助區(qū)分真實(shí)與合成，并跟蹤模型泄漏；強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；界定人工智能造成的傷害的責(zé)任；為人工智能技術(shù)安全研究提供強(qiáng)大的公共資金；以資源充足的機(jī)構(gòu)來(lái)應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治破壞（尤其是對(duì)民主的破壞）。

首頁(yè)上一頁(yè)123 4 全文共 4 頁(yè)下一頁(yè)

關(guān)閉

馬斯克呼吁停訓(xùn)AI系統(tǒng) 稱可能導(dǎo)致核戰(zhàn)爭(zhēng)和更嚴(yán)重的疫情(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)