“AI教父”辛頓談AI安全呼吁國際合作訓(xùn)練AI向善(3)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-07-27 13:22:46 新浪財(cái)經(jīng)

Deepseek的做法是將大神經(jīng)網(wǎng)絡(luò)的知識(shí)轉(zhuǎn)移到小神經(jīng)網(wǎng)絡(luò)中，即“蒸餾”，類似教師與學(xué)生的關(guān)系。但這種方式效率很低，一句話通常只有100個(gè)比特的信息，即便全被理解，每秒最多也只能傳遞約100個(gè)比特。而數(shù)字智能間的知識(shí)轉(zhuǎn)移效率極高，同一神經(jīng)網(wǎng)絡(luò)軟件的多個(gè)拷貝在不同硬件上運(yùn)行時(shí)，能通過平均化比特的方式分享知識(shí)。如果智能體在現(xiàn)實(shí)世界中運(yùn)行，這種優(yōu)勢(shì)更明顯——它們能不斷加速、拷貝，多個(gè)智能體比單個(gè)智能體學(xué)得更多，還能分享權(quán)重，這是模擬硬件或軟件做不到的。

生物計(jì)算功耗低，但知識(shí)分享難。如果能源和計(jì)算成本低廉，情況會(huì)好很多，但也令人擔(dān)憂——幾乎所有專家都認(rèn)為，我們會(huì)創(chuàng)造出比人類更智能的AI。人類習(xí)慣了作為最智能的生物，很難想象AI超越人類的場(chǎng)景。其實(shí)可以換個(gè)角度：就像養(yǎng)雞場(chǎng)的雞無法理解人類一樣，我們創(chuàng)造的AI智能體已能幫我們完成任務(wù)，它們能拷貝自身、評(píng)估子目標(biāo)，還會(huì)為了生存和完成目標(biāo)而尋求更多控制權(quán)。

辛頓表示，面對(duì)AI，我們只有兩個(gè)選擇：要么訓(xùn)練它永遠(yuǎn)不傷害人類，要么“消滅”它。但AI在醫(yī)療、教育、氣候變化、新材料等領(lǐng)域作用巨大，能提升所有行業(yè)的效率，我們無法消除它——即便一個(gè)國家放棄AI，其他國家也不會(huì)。因此，若想讓人類生存，必須找到訓(xùn)練AI不傷害人類的方法。他提議，全球主要國家或AI大國應(yīng)建立一個(gè)由AI安全機(jī)構(gòu)組成的國際社群，研究如何訓(xùn)練高智能AI向善。各國可在自身主權(quán)范圍內(nèi)研究，再分享成果。

首頁上一頁 1 23共 3 頁

(責(zé)任編輯：zx0001)

關(guān)閉

“AI教父”辛頓談AI安全 呼吁國際合作訓(xùn)練AI向善(3)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

“AI教父”辛頓談AI安全呼吁國際合作訓(xùn)練AI向善(3)