雖然谷歌早在2020年,就在自家的數(shù)據(jù)中心上部署了當時最強的AI芯片——TPU v4。
但直到今年的4月4日,谷歌才首次公布了這臺AI超算的技術細節(jié)。
Google 4日發(fā)布論文,公開其中一部AI超級計算機的詳細資訊,聲稱比競爭對手Nvidia的系統(tǒng)運算更快、功耗更低。
Google已經(jīng)構建一套系統(tǒng),其中包括超過4,000個TPU,并結合執(zhí)行和訓練AI模型的定制化零件,這部以TPU為基礎的AI超級計算機稱為TPU v4。它從2020年開始運行,用于訓練自家PaLM模型超過50天。
“在性能、可擴展性、可用性上TPU v4成為大型語言模型的主力”,Google研究人員表示,TPU v4能比Nvidia A100組成類似大小的系統(tǒng),運算快1.2~1.7倍,功耗低1.3~1.9倍。不過,Google的TPU并未與Nvidia最新AI芯片H100進行比較,因為后者推出不久,且采用更先進的制程。
另一方面,由學術界和產(chǎn)業(yè)人士組成的人工智能領袖聯(lián)盟制定出MLPerf基準,在5日公布全產(chǎn)業(yè)AI芯片測試結果和排名。對此Nvidia首席執(zhí)行官黃仁勛表示,Nvidia H100的測試結果明顯優(yōu)于上一代。
“今日MLPerf 3.0突顯出以Hopper架構為基礎的H100,其性能是A100的4倍”,黃仁勛在官方博客寫道,并認為下一階段的生成式AI(Generative AI)需要新的基礎設施,以訓練高性能的大型語言模型。
AI所需的大量算力是相當昂貴的,于是Nvidia、Google等產(chǎn)業(yè)人士大多專注于開發(fā)新的芯片、光學連接零件等,或從軟件技術方面著手,以減少大量運算所需的功耗。
Google被認為是AI領域的主要先驅,旗下研究人員在過去10年已經(jīng)取得重要進展。然而隨著OpenAI推出ChatGPT,引爆人工智能熱潮,部分人士認為GoogleAI技術商業(yè)化方面明顯落后,這也迫使Google現(xiàn)在競相發(fā)布產(chǎn)品并試圖證明沒有揮霍領先優(yōu)勢。
原標題:在成都,探索大運之城的科技創(chuàng)新這是7月22日在成都高新體育中心多功能館外拍攝的臨時訓練氣膜館(無人機照片)。
2023-07-25 08:39:57探索大運之城的科技創(chuàng)新冬天來了,你是否感覺到了寒冷的氣息?今年進入12月以來,我國遭遇了多次寒潮和冷空氣的侵襲,導致中東部地區(qū)氣溫頻繁下降,甚至出現(xiàn)了罕見的雨雪冰凍天氣。
2023-12-25 13:05:21大范圍大回暖開始原標題:31省份前三季度人均可支配收入公布 上海北京超6萬元國家統(tǒng)計局網(wǎng)站最新公布了31個省份前三季度居民人均可支配收入情況。
2023-10-30 16:03:4431省份前三季度人均可支配收入公布近日,有消息稱英偉達公司的H100 AI GPU的利潤率高達1000%,這一數(shù)字可能讓人們感到震驚。
2023-08-18 14:36:07英偉達H100【#投資者押注美聯(lián)儲明年中期將降息##國際油價累計跌超15%#】上周公布的一系列經(jīng)濟數(shù)據(jù)顯示美國通脹持續(xù)降溫、經(jīng)濟增長放緩
2023-11-20 13:34:14國際油價累計跌超15%