但更為重要的智慧在于我們退后一步，深入理解了深度學(xué)習(xí)的本質(zhì)。它的基礎(chǔ)是什么？它的長期影響是什么？它的潛力是什么？我們意識到，這項技術(shù)擁有巨大的潛力，能夠繼續(xù)擴(kuò)展幾十年前發(fā)明和發(fā)現(xiàn)的算法，結(jié)合更多的數(shù)據(jù)、更大的網(wǎng)絡(luò)和至關(guān)重要的計算資源，深度學(xué)習(xí)突然間能夠?qū)崿F(xiàn)人類算法無法企及的任務(wù)。

現(xiàn)在，想象一下，如果我們進(jìn)一步擴(kuò)大架構(gòu)，擁有更大的網(wǎng)絡(luò)、更多的數(shù)據(jù)和計算資源，將會發(fā)生什么？因此，我們致力于重新發(fā)明一切。自2012年以來，我們改變了GPU的架構(gòu)，增加了張量核心，發(fā)明了MV-Link，推出了cuDNN、TensorRT、Nickel，還收購了Mellanox，推出了Triton推理服務(wù)器。

這些技術(shù)集成在一臺全新的計算機(jī)上，它超越了當(dāng)時所有人的想象。沒有人預(yù)料到，沒有人提出這樣的需求，甚至沒有人理解它的全部潛力。事實(shí)上，我自己也不確定是否會有人會想買它。

但在GTC大會上，我們正式發(fā)布了這項技術(shù)。舊金山一家名叫OpenAI的初創(chuàng)公司迅速注意到了我們的成果，并請求我們提供一臺設(shè)備。我親自為OpenAI送去了世界上首臺人工智能超級計算機(jī)DGX。

2016年，我們持續(xù)擴(kuò)大研發(fā)規(guī)模。從單一的人工智能超級計算機(jī)，單一的人工智能應(yīng)用，擴(kuò)大到在2017年推出了更為龐大且強(qiáng)大的超級計算機(jī)。隨著技術(shù)的不斷進(jìn)步，世界見證了Transformer的崛起。這一模型的出現(xiàn)，使我們能夠處理海量的數(shù)據(jù)，并識別和學(xué)習(xí)在長時間跨度內(nèi)連續(xù)的模式。

如今，我們有能力訓(xùn)練這些大語言模型，以實(shí)現(xiàn)自然語言理解方面的重大突破。但我們并未止步于此，我們繼續(xù)前行，構(gòu)建了更大的模型。到了2022年11月，在極為強(qiáng)大的人工智能超級計算機(jī)上，我們使用數(shù)萬顆英偉達(dá)GPU進(jìn)行訓(xùn)練。

僅僅5天后，OpenAI宣布ChatGPT已擁有100萬用戶。這一驚人的增長速度，在短短兩個月內(nèi)攀升至1億用戶，創(chuàng)造了應(yīng)用歷史上最快的增長記錄。其原因十分簡單——ChatGPT的使用體驗便捷而神奇。

用戶能夠與計算機(jī)進(jìn)行自然、流暢的互動，仿佛與真人交流一般。無需繁瑣的指令或明確的描述，ChatGPT便能理解用戶的意圖和需求。

ChatGPT的出現(xiàn)標(biāo)志著一個劃時代的變革，這張幻燈片恰恰捕捉到了這一關(guān)鍵轉(zhuǎn)折。請允許我為大家展示下。

直至ChatGPT的問世，它才真正向世界揭示了生成式人工智能的無限潛能。長久以來，人工智能的焦點(diǎn)主要集中在感知領(lǐng)域，如自然語言理解、計算機(jī)視覺和語音識別，這些技術(shù)致力于模擬人類的感知能力。但ChatGPT帶來了質(zhì)的飛躍，它不僅僅局限于感知，而是首次展現(xiàn)了生成式人工智能的力量。

它會逐個生成Token，這些Token可以是單詞、圖像、圖表、表格，甚至是歌曲、文字、語音和視頻。Token可以代表任何具有明確意義的事物，無論是化學(xué)物質(zhì)、蛋白質(zhì)、基因，還是之前我們提到的天氣模式。

這種生成式人工智能的崛起意味著，我們可以學(xué)習(xí)并模擬物理現(xiàn)象，讓人工智能模型理解并生成物理世界的各種現(xiàn)象。我們不再局限于縮小范圍進(jìn)行過濾，而是通過生成的方式探索無限可能。

如今，我們幾乎可以為任何有價值的事物生成Token，無論是汽車的轉(zhuǎn)向盤控制、機(jī)械臂的關(guān)節(jié)運(yùn)動，還是我們目前能夠?qū)W習(xí)的任何知識。因此，我們所處的已不僅僅是一個人工智能時代，而是一個生成式人工智能引領(lǐng)的新紀(jì)元。

更重要的是，這臺最初作為超級計算機(jī)出現(xiàn)的設(shè)備，如今已經(jīng)演化為一個高效運(yùn)轉(zhuǎn)的人工智能數(shù)據(jù)中心。它不斷地產(chǎn)出，不僅生成Token，更是一個創(chuàng)造價值的人工智能工廠。這個人工智能工廠正在生成、創(chuàng)造和生產(chǎn)具有巨大市場潛力的新商品。

正如19世紀(jì)末尼古拉·特斯拉（Nikola Tesla）發(fā)明了交流發(fā)電機(jī)，為我們帶來了源源不斷的電子，英偉達(dá)的人工智能生成器也正在源源不斷地產(chǎn)生具有無限可能性的Token。這兩者都有巨大的市場機(jī)會，有望在每個行業(yè)掀起變革。這確實(shí)是一場新的工業(yè)革命！

我們現(xiàn)在迎來了一個全新的工廠，能夠為各行各業(yè)生產(chǎn)出前所未有的、極具價值的新商品。這一方法不僅極具可擴(kuò)展性，而且完全可重復(fù)。請注意，目前，每天都在不斷涌現(xiàn)出各種各樣的人工智能模型，尤其是生成式人工智能模型。如今，每個行業(yè)都競相參與其中，這是前所未有的盛況。

價值3萬億美元的IT行業(yè)，即將催生出能夠直接服務(wù)于100萬億美元產(chǎn)業(yè)的創(chuàng)新成果。它不再僅僅是信息存儲或數(shù)據(jù)處理的工具，而是每個行業(yè)生成智能的引擎。這將成為一種新型的制造業(yè)，但它并非傳統(tǒng)的計算機(jī)制造業(yè)，而是利用計算機(jī)進(jìn)行制造的全新模式。這樣的變革以前從未發(fā)生過，這確實(shí)是一件令人矚目的非凡之事。

生成式AI推動軟件全棧重塑，展示NIM云原生微服務(wù)

這開啟了計算加速的新時代，推動了人工智能的迅猛發(fā)展，進(jìn)而催生了生成式人工智能的興起。而如今，我們正在經(jīng)歷一場工業(yè)革命。關(guān)于其影響，讓我們深入探討一下。

對于我們所在的行業(yè)而言，這場變革的影響同樣深遠(yuǎn)。正如我之前所言，這是過去六十年來的首次，計算的每一層都正在發(fā)生變革。從CPU的通用計算到GPU的加速計算，每一次變革都標(biāo)志著技術(shù)的飛躍。

過去，計算機(jī)需要遵循指令執(zhí)行操作，而現(xiàn)在，它們更多地是處理LLM（大語言模型）和人工智能模型。過去的計算模型主要基于檢索，幾乎每次你使用手機(jī)時，它都會為你檢索預(yù)先存儲的文本、圖像或視頻，并根據(jù)推薦系統(tǒng)重新組合這些內(nèi)容呈現(xiàn)給你。

但在未來，你的計算機(jī)會盡可能多地生成內(nèi)容，只檢索必要的信息，因為生成數(shù)據(jù)在獲取信息時消耗的能量更少。而且，生成的數(shù)據(jù)具有更高的上下文相關(guān)性，能更準(zhǔn)確地反映你的需求。當(dāng)你需要答案時，不再需要明確指示計算機(jī)“給我獲取那個信息”或“給我那個文件”，只需簡單地說：“給我一個答案。”

此外，計算機(jī)不再僅僅是我們使用的工具，它開始生成技能。它執(zhí)行任務(wù)，而不再是一個生產(chǎn)軟件的行業(yè)，這在90年代初是一個顛覆性的觀念。記得嗎？微軟提出的軟件打包理念徹底改變了PC行業(yè)。沒有打包軟件，我們的PC將失去大部分功能。這一創(chuàng)新推動了整個行業(yè)的發(fā)展。

現(xiàn)在我們有了新工廠、新計算機(jī)，而在這個基礎(chǔ)上運(yùn)行的是一種新型軟件——我們稱之為Nim（NVIDIA Inference Microservices）。在這個新工廠中運(yùn)行的Nim是一個預(yù)訓(xùn)練模型，它是一個人工智能。

這個人工智能本身相當(dāng)復(fù)雜，但運(yùn)行人工智能的計算堆棧更是復(fù)雜得令人難以置信。當(dāng)你使用ChatGPT這樣的模型時，其背后是龐大的軟件堆棧。這個堆棧復(fù)雜而龐大，因為模型擁有數(shù)十億到數(shù)萬億個參數(shù)，且不僅在一臺計算機(jī)上運(yùn)行，而是在多臺計算機(jī)上協(xié)同工作。