电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

新聞

“AI教父”辛頓談AI安全 呼吁國際合作訓練AI向善(3)

關(guān)鍵詞：
2025-07-27 13:22:46  新浪財經(jīng)

Deepseek的做法是將大神經(jīng)網(wǎng)絡的知識轉(zhuǎn)移到小神經(jīng)網(wǎng)絡中，即“蒸餾”，類似教師與學生的關(guān)系。但這種方式效率很低，一句話通常只有100個比特的信息，即便全被理解，每秒最多也只能傳遞約100個比特。而數(shù)字智能間的知識轉(zhuǎn)移效率極高，同一神經(jīng)網(wǎng)絡軟件的多個拷貝在不同硬件上運行時，能通過平均化比特的方式分享知識。如果智能體在現(xiàn)實世界中運行，這種優(yōu)勢更明顯——它們能不斷加速、拷貝，多個智能體比單個智能體學得更多，還能分享權(quán)重，這是模擬硬件或軟件做不到的。

生物計算功耗低，但知識分享難。如果能源和計算成本低廉，情況會好很多，但也令人擔憂——幾乎所有專家都認為，我們會創(chuàng)造出比人類更智能的AI。人類習慣了作為最智能的生物，很難想象AI超越人類的場景。其實可以換個角度：就像養(yǎng)雞場的雞無法理解人類一樣，我們創(chuàng)造的AI智能體已能幫我們完成任務，它們能拷貝自身、評估子目標，還會為了生存和完成目標而尋求更多控制權(quán)。

辛頓表示，面對AI，我們只有兩個選擇：要么訓練它永遠不傷害人類，要么“消滅”它。但AI在醫(yī)療、教育、氣候變化、新材料等領(lǐng)域作用巨大，能提升所有行業(yè)的效率，我們無法消除它——即便一個國家放棄AI，其他國家也不會。因此，若想讓人類生存，必須找到訓練AI不傷害人類的方法。他提議，全球主要國家或AI大國應建立一個由AI安全機構(gòu)組成的國際社群，研究如何訓練高智能AI向善。各國可在自身主權(quán)范圍內(nèi)研究，再分享成果。

(責任編輯：zx0001)
關(guān)閉

金飾克價漲到1027元 品牌溢價能力增強

金飾克價漲到1027元2025-09-01 16:15:36

日媒：日本高官緊急取消訪美 關(guān)稅磋商遇阻

日媒,日本高官緊急取消訪美2025-09-01 16:11:19

2025香港小姐競選結(jié)果出爐 高學歷佳麗閃耀舞臺

2025香港小姐競選結(jié)果出爐2025-09-01 15:52:00

金飾克價漲到1027元 品牌溢價能力增強

金飾克價漲到1027元2025-09-01 16:15:36

外媒記者關(guān)注上合組織峰會什么 影響力與合作前景

外媒記者關(guān)注上合組織峰會什么2025-09-01 15:45:16

澤連斯基稱無力通過武力奪回領(lǐng)土 外交努力成焦點

澤連斯基稱無力通過武力奪回領(lǐng)土2025-09-01 15:51:11

日媒：日本高官緊急取消訪美 關(guān)稅磋商遇阻

日媒,日本高官緊急取消訪美2025-09-01 16:11:19

德國曝光涉北溪爆炸案女潛水員照片 烏克蘭小組執(zhí)行爆破

德國曝光涉北溪爆炸案女潛水員照片2025-09-01 16:14:53

專家：歐盟對俄烏沖突立場發(fā)生變化 博弈加劇和平進程復雜化

專家,歐盟對俄烏沖突立場發(fā)生變化2025-09-01 15:31:06

伊朗總統(tǒng)為什么罕見用中文發(fā)帖 深化中伊戰(zhàn)略合作

伊朗總統(tǒng)為什么罕見用中文發(fā)帖2025-09-01 16:03:43

林書豪社媒自宣退役 告別15年籃球生涯

林書豪社媒自宣退役2025-09-01 15:51:27

老人把餃子喂給進站的入伍軍人

老人把餃子喂給進站的入伍軍人2025-09-01 16:00:29

吉爾吉斯斯坦總統(tǒng)抵達天津 參加上合組織峰會

吉爾吉斯斯坦總統(tǒng)抵達天津2025-09-01 16:12:34

俄為啥發(fā)動空襲警告歐洲 精準打擊暴露西方介入困境

俄為啥發(fā)動空襲警告歐洲2025-09-01 16:05:39

金價大漲，周大福單克一周漲18元，分析稱金價將觸及每盎司4000美元 黃金投資熱潮再起

金價大漲,周大福單克一周漲18元,分析稱金價將觸及每盎司4000美元2025-09-01 16:09:02

專家:菲律賓休想用臺灣威脅中國 雙海聯(lián)動夢碎

專家,菲律賓休想用臺灣威脅中國2025-09-01 16:07:57

胡塞武裝襲擊以色列油輪 導彈攻擊引發(fā)關(guān)注

胡塞武裝襲擊以色列油輪2025-09-01 15:54:20

出租車和面包車疑似“斗氣” 別車翻車釀事故

出租車和面包車疑似斗氣2025-09-01 15:49:28

佩斯科夫說普京在中國有賓至如歸的感覺 世紀之行彰顯中俄深厚友誼

佩斯科夫說普京在中國有賓至如歸的感覺2025-09-01 15:55:56

中國科技股大漲 AI驅(qū)動增長

中國科技股大漲2025-09-01 15:52:58

莫迪呼吁中印共建“亞洲世紀”意味啥 復雜外交信號背后的意圖

莫迪呼吁中印共建亞洲世紀意味啥2025-09-01 16:01:19

盧卡申科帶土豆訪華的深意與情懷 外交中的務實之舉

盧卡申科帶土豆訪華的深意與情懷2025-09-01 16:03:09

加沙66萬名兒童已連續(xù)3年失學 呼吁立即停火

加沙66萬名兒童已連續(xù)3年失學2025-09-01 15:47:15

哈梅內(nèi)伊為何用中文發(fā)文談中伊關(guān)系 傳遞深層戰(zhàn)略意圖

哈梅內(nèi)伊為何用中文發(fā)文談中伊關(guān)系2025-09-01 15:57:44

美印“翻臉”已是板上釘釘了嗎 老友翻臉，為哪般？

美印翻臉已是板上釘釘了嗎2025-09-01 16:10:07

孫穎莎發(fā)文談進入國家隊10年 十年榮耀，未來璀璨

孫穎莎發(fā)文談進入國家隊10年2025-09-01 16:04:49

上合峰會莫迪拉著普京的手進大廳 大國博弈中的精妙算計

上合峰會莫迪拉著普京的手進大廳2025-09-01 15:31:40

專家稱黃金有望沖3800美元 金價創(chuàng)數(shù)月新高

專家稱黃金有望沖3800美元2025-09-01 15:47:47

胡塞高層被“一鍋端”影響幾何 去中心化指揮未受損

胡塞高層被一鍋端影響幾何2025-09-01 15:53:08

媒體談林書豪官宣退役 15年籃球夢畫上句號

媒體談林書豪官宣退役2025-09-01 15:49:00

廣州核發(fā)首張“電雞”專用號牌 新規(guī)9月1日施行

廣州核發(fā)首張電雞專用號牌2025-09-01 15:57:17

黑車橫穿車道企圖在雙實線違規(guī)掉頭 網(wǎng)友：看到是深圳交警我就放心了

黑車橫穿車道企圖在雙實線違規(guī)掉頭2025-09-01 16:02:02

相關(guān)新聞