超三千名海內(nèi)外科技領(lǐng)袖聯(lián)名呼吁暫停開發(fā)“超級智能” 安全共識待達(dá)成

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-10-24 08:34:18 澎湃新聞

超三千名海內(nèi)外科技領(lǐng)袖聯(lián)名呼吁暫停開發(fā)“超級智能” 安全共識待達(dá)成！10月22日，中美兩國人工智能領(lǐng)域的頂尖專家和技術(shù)領(lǐng)袖聯(lián)名發(fā)起一項呼吁，在科學(xué)界達(dá)成“安全可控開發(fā)超級智能的廣泛共識”前，應(yīng)暫?！俺壷悄堋钡难邪l(fā)。這項聲明由非營利組織未來生命研究所發(fā)起，參與簽名的人士包括人工智能先驅(qū)杰弗里·辛頓、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、維珍集團(tuán)董事長理查·布蘭森、經(jīng)濟(jì)學(xué)家達(dá)龍·阿西莫格魯以及前美國國家安全顧問蘇珊·賴斯等。此外，哈里王子及其妻子梅根、薩塞克斯公爵和公爵夫人以及史蒂夫·班農(nóng)等知名人士也加入了這一行列。截至10月23日中午，已有3193人簽署該聲明，其中包括中國科學(xué)院院士姚期智、清華大學(xué)智能科學(xué)講席教授張亞勤等中國學(xué)者。

“超級智能”指在所有認(rèn)知任務(wù)上都超過人類的人工智能形式。與當(dāng)前大多數(shù)公司研發(fā)的通用人工智能不同，“超級智能”的前景引發(fā)了業(yè)界擔(dān)憂。該聲明指出，許多頂尖AI企業(yè)將要打造超級智能，這可能帶來經(jīng)濟(jì)過時、權(quán)力喪失、自由和公民自由受到威脅、國家安全風(fēng)險甚至潛在的人類滅絕等問題。北京前瞻人工智能安全與治理研究院院長曾毅表示，目前還沒有堅實的科學(xué)證據(jù)和切實可行的方法來確保超級智能的安全，使其不會給人類帶來災(zāi)難性風(fēng)險。世界尚未準(zhǔn)備好迎接不受控制的超級智能。

超級智能已成為人工智能領(lǐng)域的熱門話題。從埃隆·馬斯克的xAI到薩姆·奧特曼的OpenAI，都在競相推出更先進(jìn)的大語言模型。Meta甚至將其LLM部門命名為“Meta超級智能實驗室”?？萍冀鐚θ斯ぶ悄艿目捶ㄈ找鎯蓸O分化：一方認(rèn)為它是推動社會進(jìn)步的重要力量，應(yīng)該自由發(fā)展；另一方則擔(dān)憂其潛在風(fēng)險，主張加強(qiáng)監(jiān)管。即使是馬斯克和奧特曼這樣的行業(yè)領(lǐng)導(dǎo)者也曾警告過超級智能的危險。奧特曼在2015年的一篇博客文章中提到：“發(fā)展超人類機(jī)器智能可能是對人類持續(xù)存在的最大威脅?！?/p>

據(jù)《紐約時報》報道，聯(lián)合聲明發(fā)布當(dāng)天，Meta在其超級智能實驗室裁員600人。盡管如此，Meta高管強(qiáng)調(diào)，此次裁員是為了清理因快速擴(kuò)張導(dǎo)致的組織臃腫，幫助公司更快地開發(fā)人工智能產(chǎn)品，并不意味著減少在人工智能方面的投入，超級智能仍是公司的首要任務(wù)之一。

(責(zé)任編輯：0882)

關(guān)閉

超三千名海內(nèi)外科技領(lǐng)袖聯(lián)名呼吁暫停開發(fā)“超級智能” 安全共識待達(dá)成

相關(guān)新聞

今日熱點

頻道熱點