主持人:當你看到今天正在進行的研究類型時,你是否認為我們把所有的雞蛋都放在一個籃子里,我們應(yīng)該在這個領(lǐng)域更加多樣化我們的想法?或者你認為這是最有前途的方向然后全力以赴?
Hinton:我認為擁有大型模型并在多模態(tài)數(shù)據(jù)上訓練它們,即使只是為了預測下一個單詞,也是一種非常有前途的方法,我們應(yīng)該全力以赴。顯然,現(xiàn)在有很多人在做這件事??吹接泻芏嗳怂坪踉谧霪偪竦氖虑椋@很好。我認為大多數(shù)人走這條路是可以的,它效果很好。
主持人:你認為學習算法真的那么重要嗎,還是只是尺度之一?我們是否有數(shù)百萬種方法可以達到人類水平的智能,或者我們需要發(fā)現(xiàn)少數(shù)幾種?
Hinton:特定的學習算法是否非常重要,或者是否有各種各樣的學習算法可以完成這項工作,我不知道這個問題的答案。但在我看來,反向傳播某種意義上是正確的做法。獲得梯度以便更改參數(shù)使其更好地工作,這似乎是對的,而且它也取得了驚人的成功。
可能還有其他學習算法,它們是獲得相同梯度的替代方法,或者將梯度轉(zhuǎn)移到其他東西上,并且也有效。我認為現(xiàn)在這一切都是開放的,也是非常有趣的問題,關(guān)于是否還有其他你可以嘗試和最大化利用的東西,可以為你提供良好的系統(tǒng),也許大腦這樣做是因為這樣更容易。但反向傳播在某種意義上是正確的做法,我們知道這樣做效果很好。
主持人:最后一個問題,當您回顧您幾十年的研究歷程,您最引以為豪的成就是什么?是你學生的成就嗎?或者是您的研究成果?在您的整個職業(yè)生涯中,您最引以為豪的是什么?
Hinton:我的回答是玻爾茲曼機的學習算法。這個算法非常優(yōu)雅,盡管在實踐中可能并不實用,但這是我和 Terry共同開發(fā)的過程中最享受的事情,也是我最引以為豪的成就,即使它可能是錯誤的。
5月14日,OpenAI在春季發(fā)布會上揭曉了其最新的旗艦AI模型——GPT-4o,這一模型以“全知全能”為目標,實現(xiàn)了實時的語音、文本、圖像交互功能
2024-05-15 09:10:07OpenAI發(fā)布全新生成式AI模型GPT-4o