今天，2025世界人工智能大會暨人工智能全球治理高級別會議開幕。在上午的主旨演講中，77歲的“深度學(xué)習(xí)之父”、圖靈獎得主、2024年諾貝爾物理學(xué)獎獲得者Geoffrey Hinton討論了人工智能的歷史、語言模型的本質(zhì)以及人類與AI的共通結(jié)構(gòu)。他還特別提到Deepseek，但認(rèn)為這種方式效率很低。

辛頓回顧了過去60年人工智能發(fā)展的兩條主流路徑：一是以推理為核心的“邏輯主義”，另一是以模擬人類認(rèn)知為基礎(chǔ)的“連接主義”。他認(rèn)為，語言理解更接近后者，不是符號演繹，而是從模糊中提取出概念之間的關(guān)聯(lián)。他回憶起1985年開發(fā)的一個早期小型模型，認(rèn)為如今的大語言模型本質(zhì)上是“它的后代”。盡管現(xiàn)在的模型擁有更深的網(wǎng)絡(luò)結(jié)構(gòu)和更龐大的參數(shù)規(guī)模，但核心機(jī)制并未改變。“語言模型的理解方式，和人類理解語言的方式是一樣的?！?/p>

辛頓強(qiáng)調(diào)，大模型一旦具備比人類更強(qiáng)的智能，僅靠“關(guān)掉它”并不能解決問題。他說，有人覺得它們變得聰明后就可以把它們關(guān)掉，這是不現(xiàn)實(shí)的。它們會勸說操控機(jī)器的人不要關(guān)掉它們。人類的處境更像是在“養(yǎng)一只老虎當(dāng)寵物”，要么訓(xùn)練它永遠(yuǎn)不攻擊你，要么把它干掉。

辛頓建議，全球主要國家或AI大國應(yīng)建立一個由AI安全機(jī)構(gòu)組成的國際社群，研究如何訓(xùn)練高智能AI向善。各國可在自身主權(quán)范圍內(nèi)研究，再分享成果。盡管目前還不知道具體怎么做，但這是人類長期面臨的最重要問題，且所有國家都能在此領(lǐng)域合作。

辛頓長期致力于神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)、分類監(jiān)督學(xué)習(xí)、機(jī)器學(xué)習(xí)理論、細(xì)胞神經(jīng)網(wǎng)絡(luò)、信息系統(tǒng)應(yīng)用、馬爾可夫決策過程、神經(jīng)網(wǎng)絡(luò)、認(rèn)知科學(xué)等方面的研究。2023年，辛頓從谷歌辭職，稱生成式人工智能系統(tǒng)的商業(yè)應(yīng)用構(gòu)成了多重嚴(yán)重威脅，他警告說，從長遠(yuǎn)來看，自主人工智能系統(tǒng)可能會對人類構(gòu)成嚴(yán)重威脅。

在演講中，辛頓分享了他對AI歷史及未來的個人觀點(diǎn)。在過去60多年里，AI發(fā)展存在兩種不同的范式和路徑。一種是邏輯性范式，認(rèn)為智能的本質(zhì)在于推理，通過符號規(guī)則對符號表達(dá)式進(jìn)行操作來實(shí)現(xiàn)推理；另一種是以生物為基礎(chǔ)的范式，認(rèn)為智能的基礎(chǔ)是學(xué)習(xí)，是理解網(wǎng)絡(luò)中的連接速度。1985年，辛頓做了一個小型模型，嘗試結(jié)合這兩種理論，以此理解人們對詞語的理解方式。他認(rèn)為，如今的大語言模型就是當(dāng)年微型語言模型的“后代”，它們使用更多詞作為輸入，采用更多層的神經(jīng)元結(jié)構(gòu)，處理大量模糊數(shù)字，學(xué)習(xí)特征之間也建立了更復(fù)雜的交互模式。大語言模型理解語言的方式與人類相似——將語言轉(zhuǎn)化為特征，再整合這些特征。

辛頓用樂高積木來比喻“理解一句話”的含義。符號型AI將內(nèi)容轉(zhuǎn)化為清晰的符號，但人類并非如此理解。如果把每個詞看作多維度的樂高積木，語言就成了一種建模工具，能隨時與人溝通。不過，詞和樂高積木有很多不同：詞的符號形態(tài)可根據(jù)情況調(diào)整，而樂高積木造型固定；語言中每個詞仿佛有多個“手臂”，要通過合適的“握手”方式與其他詞互動，詞的意思改變，“握手”方式也會改變。這就是人腦或神經(jīng)網(wǎng)絡(luò)理解語義的根本邏輯，類似蛋白質(zhì)通過氨基酸的不同組合形成有意義的結(jié)構(gòu)。

辛頓認(rèn)為，軟件中的知識是永恒的，即便存儲LLM的硬件被摧毀，只要軟件存在，就能隨時“復(fù)活”。但要實(shí)現(xiàn)這種“永生”，晶體管需在高功率下運(yùn)行以產(chǎn)生可靠的二進(jìn)制行為，這個過程成本很高。人腦也是模擬型而非數(shù)字型的，神經(jīng)元每次激發(fā)的過程都一樣，但每個人的神經(jīng)元連接方式不同，無法將自己的神經(jīng)結(jié)構(gòu)轉(zhuǎn)移到他人腦中，導(dǎo)致知識在人腦間的傳播效率遠(yuǎn)低于在硬件中的傳播。

Deepseek的做法是將大神經(jīng)網(wǎng)絡(luò)的知識轉(zhuǎn)移到小神經(jīng)網(wǎng)絡(luò)中，即“蒸餾”，類似教師與學(xué)生的關(guān)系。但這種方式效率很低，一句話通常只有100個比特的信息，即便全被理解，每秒最多也只能傳遞約100個比特。而數(shù)字智能間的知識轉(zhuǎn)移效率極高，同一神經(jīng)網(wǎng)絡(luò)軟件的多個拷貝在不同硬件上運(yùn)行時，能通過平均化比特的方式分享知識。如果智能體在現(xiàn)實(shí)世界中運(yùn)行，這種優(yōu)勢更明顯——它們能不斷加速、拷貝，多個智能體比單個智能體學(xué)得更多，還能分享權(quán)重，這是模擬硬件或軟件做不到的。

生物計(jì)算功耗低，但知識分享難。如果能源和計(jì)算成本低廉，情況會好很多，但也令人擔(dān)憂——幾乎所有專家都認(rèn)為，我們會創(chuàng)造出比人類更智能的AI。人類習(xí)慣了作為最智能的生物，很難想象AI超越人類的場景。其實(shí)可以換個角度：就像養(yǎng)雞場的雞無法理解人類一樣，我們創(chuàng)造的AI智能體已能幫我們完成任務(wù)，它們能拷貝自身、評估子目標(biāo)，還會為了生存和完成目標(biāo)而尋求更多控制權(quán)。

辛頓表示，面對AI，我們只有兩個選擇：要么訓(xùn)練它永遠(yuǎn)不傷害人類，要么“消滅”它。但AI在醫(yī)療、教育、氣候變化、新材料等領(lǐng)域作用巨大，能提升所有行業(yè)的效率，我們無法消除它——即便一個國家放棄AI，其他國家也不會。因此，若想讓人類生存，必須找到訓(xùn)練AI不傷害人類的方法。他提議，全球主要國家或AI大國應(yīng)建立一個由AI安全機(jī)構(gòu)組成的國際社群，研究如何訓(xùn)練高智能AI向善。各國可在自身主權(quán)范圍內(nèi)研究，再分享成果。