5月17日消息,AI教父Geoffrey Hinton接受訪談。對(duì)談不僅涉及Hinton對(duì)大型神經(jīng)網(wǎng)絡(luò)、多模態(tài)學(xué)習(xí)、模擬計(jì)算、AI安全等技術(shù)發(fā)展的看法,還有其接觸人工智能的經(jīng)歷以及與Ilya初識(shí)的回憶。
訪談的提問者是一名天才創(chuàng)業(yè)者——Joel Hellermark。
Joel Hellermark
Joel是Sana AI的創(chuàng)始人兼首席執(zhí)行官,Sana是一家領(lǐng)先的人工智能公司,已從NEA、Menlo和EQT籌集了超過8000萬美元的融資。他在13歲時(shí)自學(xué)編程,16歲時(shí)創(chuàng)立了自己的第一家公司,開發(fā)了一個(gè)視頻推薦引擎。
官網(wǎng)截圖
對(duì)談要點(diǎn)整理如下:
初識(shí)Ilya時(shí)就覺得十分優(yōu)秀,Ilya很早就預(yù)測(cè)過Scaling Law是存在的。
下一個(gè)token預(yù)測(cè)能有效解釋大腦的學(xué)習(xí)機(jī)制,模型在學(xué)習(xí)過程中可以習(xí)得推理能力。
類比是創(chuàng)造力的源泉,而模型能挖掘事物之間的共有結(jié)構(gòu),找到人類不曾注意的類比,進(jìn)而超越訓(xùn)練數(shù)據(jù)。
多模態(tài)能讓模型更好理解學(xué)習(xí),并且能讓模型的空間推理能力更強(qiáng),一定是提升AI能力的重要方向。
醫(yī)療將是AI應(yīng)用的最重要領(lǐng)域之一,AI的發(fā)展無法阻擋。
Ilya是完美的研究伙伴,他的直覺非常靈敏
Hinton:我想起當(dāng)時(shí)從英格蘭第一次來到卡內(nèi)基梅隆大學(xué)。是在英格蘭的研究部門,下午6點(diǎn)后一般都會(huì)去酒吧喝酒。但我來了幾周后的一個(gè)周六晚上,一個(gè)朋友都沒有,也不知道能做什么。我實(shí)驗(yàn)室有要用的機(jī)器機(jī),但家里沒有,所以決定去實(shí)驗(yàn)室編程。
于是我在周六晚上9點(diǎn)左右來到實(shí)驗(yàn)室,所有的學(xué)生都在那里,擠滿了人。他們都在那里。他們都相信自己在研究未來,接下來做的事情,將改變計(jì)算機(jī)科學(xué)的發(fā)展,這與英格蘭的情況完全不同。所以這令我耳目一新。
主持人:帶我回到最初在劍橋探索腦科學(xué)的日子。那時(shí)候什么感覺?