非GPU算力路線開始反攻英偉達 AI推理市場迎來變革
非GPU算力路線開始反攻英偉達 AI推理市場迎來變革。英偉達的“GPU帝國”在AI發(fā)展的前十年憑借其在人工智能訓練領域的優(yōu)勢穩(wěn)坐王者寶座。然而，隨著行業(yè)主戰(zhàn)場從模型訓練轉向模型推理，算力的焦點不再是硬件性能，而是誰能以更優(yōu)的經濟模型支撐海量推理需求。英偉達不再是唯一的規(guī)則制定者，而成為眾多玩家中的一員。
過去的算力競賽主要是英偉達不斷提升GPU性能的過程。從H100到Blackwell，再到Vera Rubin，每一次迭代都逼近物理極限。但當AI從集中訓練走向分散推理時，算力使用邏輯發(fā)生了根本變化。推理階段比訓練更頻繁、更分散，也更注重能耗與成本。為訓練設計的GPU在這一點上顯露出天生短板。
GPU以高吞吐率著稱，但推理任務往往是串行和實時的。例如ChatGPT每生成一個詞，都是一次獨立計算。這就像在萬人體育場中只允許一個人通行，資源浪費極大。算力閑置帶來的能耗與成本，成為AI公司難以承受的“推理稅”。
新的硬件革命迅速展開，多種非GPU架構陸續(xù)登場，目標一致——降低推理能耗，提升單位經濟性。谷歌的TPU早在2016年就已面世，通過“脈動陣列”架構，讓數據在芯片內部高效流動，減少訪存延遲，比GPU更符合推理需求。同樣任務下，TPU的性價比可達英偉達H100的四倍以上，能耗亦能降低約六成。如今，谷歌已將TPU推向公有云，Meta、Anthropic等大客戶紛紛采購，傳統GPU市場的格局被撼動。
Cerebras則以徹底顛覆的方式出圈。它的晶圓級芯片WSE不再切割成數百個小芯片，而是完整保留整片晶圓，形成一個巨型“單芯片計算機”。這種設計使得大模型的訓練和推理都能在單芯片內進行，極大降低通信延遲。WSE-3的能效比GPU集群高出十倍以上，成為OpenAI、Cerebras云服務的核心引擎。
曝京東副總裁劉辰被辭退 業(yè)績未達標且存合規(guī)問題
特斯拉5萬輛新車滯銷 需求低迷引發(fā)庫存積壓
黃牛代買張雪機車一單賺1600元 賽道奪冠引爆銷售熱潮
伊朗等三方聯合襲擊以色列 多地遭導彈攻擊
小學生撿50克金條上交 拾金不昧暖人心
小區(qū)電梯轎廂墜落致2名檢修工人死亡 官方確認并調查
高校宿舍“煥新” 兩代人的別樣青春 從擁擠到宜居的變遷
第一個準備下場參戰(zhàn)的中東強國已經挨打 胡塞武裝遭密集空襲
日本訂的400枚戰(zhàn)斧導彈或將延期交付 因庫存吃緊
美國被曝想用?；饟Q霍爾木茲海峽通航 多國商討應對方案
美國F-15戰(zhàn)斗機追擊伊朗無人機 天價戰(zhàn)機敗北之謎
美軍計劃在中東最大軍事基地建地堡 漫長工期引質疑
曝京東副總裁劉辰被辭退 業(yè)績未達標且存合規(guī)問題
特斯拉5萬輛新車滯銷 需求低迷引發(fā)庫存積壓
臺當局總預算僵局未解 韓國瑜喊話 吁盡速審議
伊朗現在到底誰在掌權？革命衛(wèi)隊實際掌控
美軍已經不可能全身而退了！
小伙因1頓外賣閃婚 結婚當日新娘消失 彩禮26萬追回難
北京一居民家中明火祭祀把家燒沒了 蠟燭無人看管惹禍端
女子深夜上公廁被困 鐵門鎖住引發(fā)救援
金正恩與女兒視察寵物商店 現場擼貓！
美軍士兵被允許在基地攜帶個人槍支 出于自我保護權利
美以襲伊月余，阿拉伯國家損失超千億美元！阿聯酋或對伊直接參戰(zhàn) 海灣局勢劇變
曝FBI局長等人離職事宜正在討論中 多名官員或離開政府
張國榮祖居在廣東梅州被發(fā)現 名人故居納入文物普查線索
美軍傷亡最新數據曝光！中東沖突致數百傷亡
清明假期后 國內油價或繼續(xù)上浮 預計上調160元/噸
32歲博主嘴唇發(fā)紫被粉絲救下一命 心臟停搏險象環(huán)生
白宮緊急下架特朗普講話
天龍三號 對標獵鷹9號的中國火箭
石破茂公開評價特朗普喜歡被奉承 溝通需留足面子
美國繞月飛船剛上天馬桶就壞了 深空試飛遇小故障
黃牛代買張雪機車一單賺1600元 賽道奪冠引爆銷售熱潮
女嬰在紐約街頭槍擊中彈死亡 幫派爭斗殃及無辜
讓行5分鐘獲上千名學生打招呼 司機高興一整天
相關新聞
英偉達的“瘋狂賬本” 算力成本推手
ChatGPT漲價的討論再次成為熱點。Plus版從20美元漲到22美元，美區(qū)Team版從25美元漲到30美元，Claude在原有的20美元Pro版之外，新增了30美元的Team檔和Max檔
2025-12-01 17:31:04英偉達的瘋狂賬本英偉達為何選擇押注韓國 算力戰(zhàn)爭升級
2025-11-03 18:57:28英偉達為何選擇押注韓國高通芯片殺進英偉達腹地 挑戰(zhàn)AI算力壟斷
昨天凌晨，我看著黃金盤的下跌心情沉重。這時，電腦瀏覽器推送了一條新聞，標題稱世界上最有價值的公司Nvidia遇到了新的美國對手。起初并未在意，以為是哪家芯片廠蹭熱點。但當我看到高通的名字時愣住了
2025-10-29 11:07:15高通芯片殺進英偉達腹地英偉達與阿里云決戰(zhàn)數據之巔 算力主導權之爭
2025-09-28 13:58:13英偉達與阿里云決戰(zhàn)數據之巔OpenAI“背刺”英偉達入股AMD 算力合作新里程碑
OpenAI 與超威半導體（AMD）達成協議，根據協議，OpenAI 或可收購這家芯片制造商 10% 的股份。消息公布后，AMD 股價在周一暴漲 23.71%
2025-10-07 09:18:47OpenAI背刺英偉達入股AMD如何看待英偉達砸千億投OpenAI 算力競賽加速
2025-09-23 20:24:30如何看待英偉達砸千億投OpenAI
