頂級大佬齊呼吁暫停超級智能研發(fā) 全球共識待形成(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-10-27 08:23:37 極目新聞

參與本次聯(lián)署的北京前瞻人工智能安全與治理研究院院長、中國科學院自動化研究所研究員曾毅直言，世界尚未準備好迎接不是可控工具的超級智能。目前我們還沒有堅實的科學證據(jù)和切實可行的方法來確保超級智能的安全，使其不會給人類帶來災難性的風險。所謂“超級智能”，是指在所有核心認知任務上全面超越人類能力的人工智能形式。

曾毅認為，如果以50年為限，超級智能一定會到來。當超級智能到來的時候，人類是否能夠做好準備是關(guān)鍵問題。他認為，AI并不是中立的，人類的偏見、歧視、仇恨會被內(nèi)化到AI中，沒有任何一種構(gòu)造超級智能的方式是沒有風險的。一旦選定了正確的方式去構(gòu)造AI，它的智能水平必然會超越人類，但與此同時，受益于正確價值護欄的超級智能也可以是超級利他的，超級共情的，因此他認為擁有自我的AI才會令人類社會更安全。

曾毅還預測，未來的類腦智能體有可能會使用生物材料，與現(xiàn)在的智能體大多使用硅基材料不同。以前的智能體是存算分離的，而類腦智能的硬件可以存算一體。人們對超級智能體的擔憂因未知而充滿不確定性。

圖靈獎得主、深度學習三巨頭之一的約書亞·本吉奧也指出，要安全地邁向“超級智能”，我們必須通過科學手段設計出在根本上無法傷害人類的人工智能系統(tǒng)——無論是由于目標偏差，還是被惡意利用。同時，他強調(diào)公眾應在塑造人類共同未來的決策中擁有更強的話語權(quán)。

值得一提的是，發(fā)起本次倡議的未來生命研究所同期發(fā)布的一項美國全國性民意調(diào)查顯示，公眾對當前人工智能的發(fā)展方向普遍不滿。僅有5%的受訪者支持目前“無監(jiān)管的AI開發(fā)現(xiàn)狀”，而高達73%的受訪者支持建立更為嚴格的監(jiān)管機制，另有64%的受訪者認為，在科學界尚未就安全與可控性達成共識之前，不應開發(fā)“超級智能”。

從宏觀趨勢看，AI風險治理的國際分歧正在加劇。美國與歐盟正推動不同版本的“AI法案”，其中歐盟強調(diào)透明度與可追溯性，美國則側(cè)重市場自律與行業(yè)標準化。此次倡議或可推動G20或聯(lián)合國層面的技術(shù)倫理議題重啟，使AI治理從自律階段走向多邊協(xié)商階段。

首頁上一頁 12共 2 頁

(責任編輯：zx0176)

關(guān)閉

頂級大佬齊呼吁暫停超級智能研發(fā) 全球共識待形成(2)

相關(guān)新聞

今日熱點

頻道熱點