AI的盡頭是能源嗎能耗挑戰(zhàn)與未來方向

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2024-11-08 15:34:52 知識分子

AI的盡頭是能源嗎

無論是否支持人工智能的發(fā)展，我們都不能忽視其能耗問題。有人擔心AI發(fā)展過快會對能源市場和環(huán)境造成沖擊，也有人擔憂能源產(chǎn)業(yè)進步緩慢會成為AI發(fā)展的瓶頸。AI的盡頭是能源嗎！

隨著AI的普及，其在能耗中的占比將逐年提升。為此，AI研發(fā)企業(yè)紛紛投資能源供應。谷歌宣布購買Kairos Power建造的小型模塊化反應堆生產(chǎn)的電力，微軟則與星座能源公司達成協(xié)議，重啟三里島核電站1號反應堆并購買未來20年的電能。OpenAI首席執(zhí)行官山姆·奧特曼也在今年年初投資了核聚變技術。

然而，新的趨勢正在出現(xiàn)。多位業(yè)界人士表示，可以通過軟硬件技術的提升以及宏觀布局優(yōu)化來降低AI的能耗，使能源利用更加高效。更重要的是，AI的進步方向不一定更大更強，一些小而美的模型正悄然登場。

關于AI的耗電量，一篇報道指出ChatGPT每日耗電量或超50萬千瓦時，相當于1.7萬個美國家庭的能耗。但也有觀點認為這些估算過于夸張。盡管如此，我們可以進行一些定性討論。例如，在算法層面，訓練階段比推理階段能耗更高。清華大學電子工程系主任汪玉團隊測試了不同算力芯片的單卡推理功耗，發(fā)現(xiàn)推理階段的功耗基本在300W-500W之間，而訓練階段的功耗則高達400W-700W。未來推理功耗有望進一步下降。

大模型訓練過程中還存在容錯相關的額外能耗開銷。Llama 3-405B在為期54天的訓練期間共發(fā)生了466次任務中斷，約78%由硬件問題引起，實際算力利用率只有38%左右。不過，從應用場景上看，用戶推理請求的調用頻率更高，即使單次調用能耗低，總能耗也可能相當可觀。

隨著技術完善，日常使用AI推理的單次能耗有望下降。上海數(shù)珩信息科技創(chuàng)始人張繼生介紹，通過模型壓縮、剪枝、量化等技術可以提高AI系統(tǒng)性能并降低能耗。清華電子院能源電子中心主任李中陽強調，算力與新能源供電特性匹配是關鍵，這需要AI前沿技術的支持。

12 全文共 2 頁下一頁

關閉

AI的盡頭是能源嗎 能耗挑戰(zhàn)與未來方向

相關新聞

今日熱點

頻道熱點

AI的盡頭是能源嗎能耗挑戰(zhàn)與未來方向