頂級(jí)大佬齊呼吁：暫停超級(jí)智能研發(fā) 全球共識(shí)待形成(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-10-26 14:11:24 多彩貴州網(wǎng)

北京前瞻人工智能安全與治理研究院院長(zhǎng)、中國(guó)科學(xué)院自動(dòng)化研究所研究員曾毅在個(gè)人微信朋友圈直言：“世界尚未準(zhǔn)備好迎接不是可控工具的超級(jí)智能。”他認(rèn)為目前我們還沒有堅(jiān)實(shí)的科學(xué)證據(jù)和切實(shí)可行的方法來確保超級(jí)智能的安全，使其不會(huì)給人類帶來災(zāi)難性的風(fēng)險(xiǎn)。

所謂“超級(jí)智能”，是指在所有核心認(rèn)知任務(wù)上全面超越人類能力的人工智能形式。曾毅預(yù)測(cè)，如果以50年為限，超級(jí)智能一定會(huì)到來。他認(rèn)為，當(dāng)超級(jí)智能到來的時(shí)候，人類是否能夠做好準(zhǔn)備是一個(gè)關(guān)鍵問題。他強(qiáng)調(diào)，沒有任何一種構(gòu)造超級(jí)智能的方式是沒有風(fēng)險(xiǎn)的，但受益于正確價(jià)值護(hù)欄的超級(jí)智能也可以是超級(jí)利他的，超級(jí)共情的，因此擁有自我的AI才會(huì)令人類社會(huì)更安全。

圖靈獎(jiǎng)得主、深度學(xué)習(xí)三巨頭之一的約書亞·本吉奧也指出，要安全地邁向“超級(jí)智能”，我們必須通過科學(xué)手段設(shè)計(jì)出在根本上無法傷害人類的人工智能系統(tǒng)。同時(shí)他曾多次在公開場(chǎng)合強(qiáng)調(diào)，公眾也應(yīng)在塑造人類共同未來的決策中擁有更強(qiáng)的話語權(quán)。

未來生命研究所同期還發(fā)布了一項(xiàng)美國(guó)全國(guó)性民意調(diào)查，顯示公眾對(duì)當(dāng)前人工智能的發(fā)展方向普遍不滿。僅有5%的受訪者支持目前“無監(jiān)管的AI開發(fā)現(xiàn)狀”，而高達(dá)73%的受訪者支持建立更為嚴(yán)格的監(jiān)管機(jī)制，另有64%的受訪者認(rèn)為，在科學(xué)界尚未就安全與可控性達(dá)成共識(shí)之前，不應(yīng)開發(fā)“超級(jí)智能”。

從宏觀趨勢(shì)看，AI風(fēng)險(xiǎn)治理的國(guó)際分歧正在加劇。美國(guó)與歐盟正推動(dòng)不同版本的“AI法案”，其中歐盟強(qiáng)調(diào)透明度與可追溯性，美國(guó)則側(cè)重市場(chǎng)自律與行業(yè)標(biāo)準(zhǔn)化。有分析認(rèn)為，此次倡議或可推動(dòng)G20或聯(lián)合國(guó)層面的技術(shù)倫理議題重啟，使AI治理從自律階段走向多邊協(xié)商階段。

首頁(yè)上一頁(yè)12共 2 頁(yè)

(責(zé)任編輯：zhangxiaohua)

關(guān)閉

頂級(jí)大佬齊呼吁：暫停超級(jí)智能研發(fā) 全球共識(shí)待形成(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)