上千名科技專家呼吁暫停大型AI研究包括馬斯克等(4)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 14:15:58

人工智能風(fēng)險與通用人工智能風(fēng)險。

但是，盡管許多文獻(xiàn)將人工智能風(fēng)險等同于超級智能或通用人工智能風(fēng)險，但不一定非要超級智能才能造成嚴(yán)重問題?！拔椰F(xiàn)在并不擔(dān)心‘AGI風(fēng)險’（我們無法控制的超級智能機器的風(fēng)險），在短期內(nèi)我擔(dān)心的是‘MAI風(fēng)險’——平庸人工智能（Mediocre AI）是不可靠的（比如必應(yīng)和GPT-4）但被廣泛部署——無論是就使用它的人數(shù)而言，還是就世界對軟件的訪問而言。一家名為Adept.AI的公司剛剛籌集了3.5億美元來做到這一點，以允許大型語言模型訪問幾乎所有內(nèi)容（旨在通過大型語言模型‘增強你在世界上任何軟件工具或API上的能力’，盡管它們有明顯的幻覺和不可靠傾向）?！?/p>

馬庫斯認(rèn)為，許多普通人也許智力高于平均水平，但不一定是天才，在整個歷史中也制造過各種各樣的問題。

在許多方面，起關(guān)鍵作用的不是智力而是權(quán)力。

一個擁有核代碼的白癡就可以摧毀世界，只需要適度的情報和不應(yīng)該得到的訪問權(quán)限。

現(xiàn)在，AI工具已經(jīng)引起了犯罪分子的興趣，越來越多地被允許進(jìn)入人類世界，它們可能造成更大的破壞。

歐洲刑警組織27日發(fā)布一份報告，對采用ChatGPT類工具進(jìn)行犯罪的可能性進(jìn)行了討論，令人警醒?！按笮驼Z言模型檢測和重現(xiàn)語言模式的能力不僅有助于網(wǎng)絡(luò)釣魚和在線欺詐，而且通常還可以用來冒充特定個人或群體的講話風(fēng)格。這種能力可能會被大規(guī)模濫用，以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子?！边@份報告寫道，“除了上述犯罪活動外，ChatGPT的功能還有助于處理恐怖主義、政治宣傳和虛假信息領(lǐng)域的許多潛在濫用案件。因此，該模型通?？捎糜谑占嗫赡艽龠M(jìn)恐怖活動的信息，例如恐怖主義融資或匿名文件共享?！?/p>

首頁上一頁 1 2 345 6 全文共 6 頁下一頁

關(guān)閉

上千名科技專家呼吁暫停大型AI研究 包括馬斯克等(4)

相關(guān)新聞

今日熱點

頻道熱點

上千名科技專家呼吁暫停大型AI研究包括馬斯克等(4)