电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

華為昇騰910C完成訓(xùn)練 突破萬億參數(shù)大模型難關(guān)(2)

關(guān)鍵詞：
2026-06-08 08:18:21  觀察者網(wǎng)

面對(duì)如此極限的挑戰(zhàn)，科研團(tuán)隊(duì)在國(guó)產(chǎn)AI算力集群上實(shí)現(xiàn)了三大突破：一是“顯存拼圖”，設(shè)計(jì)了精密的分布式承載方案，將龐大的模型參數(shù)精確地分配到千卡集群的每一張卡上；二是“負(fù)載均衡”，優(yōu)化了調(diào)度策略，確保每位“專家”分工合理，跨卡通信不再“堵車”；三是“有人‘守夜’”，搭建了完整的監(jiān)控體系，確保長(zhǎng)達(dá)1500多步的訓(xùn)練過程中沒有出現(xiàn)一次中斷或報(bào)錯(cuò)。

本次探索是國(guó)產(chǎn)算力適配超大參數(shù)大模型過程中的重要進(jìn)展，有助于提升國(guó)內(nèi)AI產(chǎn)業(yè)鏈自主化水平，降低行業(yè)應(yīng)用成本，為人工智能技術(shù)落地提供更多支撐。目前，項(xiàng)目已實(shí)現(xiàn)模型算力利用率超過30%，關(guān)鍵訓(xùn)練算子效率提升14%，各項(xiàng)指標(biāo)均達(dá)到工業(yè)級(jí)運(yùn)行標(biāo)準(zhǔn)。從技術(shù)應(yīng)用角度來看，調(diào)用已有模型開展業(yè)務(wù)推理與從零完成模型全參數(shù)訓(xùn)練分屬不同技術(shù)環(huán)節(jié)，二者在技術(shù)難度和硬件要求上有明顯區(qū)別。本次試驗(yàn)結(jié)果表明，國(guó)產(chǎn)AI算力已可承擔(dān)頂級(jí)大模型訓(xùn)練任務(wù)，相關(guān)技術(shù)路徑具備可行性。

(責(zé)任編輯：zx0176)
關(guān)閉

偶遇首屆學(xué)生執(zhí)勤警號(hào)017985 師生驚喜重逢

偶遇首屆學(xué)生執(zhí)勤警號(hào)0179852026-06-08 08:17:25

德國(guó)男子1分鐘吃掉2斤半蜂蜜 刷新吉尼斯紀(jì)錄

德國(guó)男子1分鐘吃掉2斤半蜂蜜2026-06-08 08:16:47

白銀黃金又跌了 現(xiàn)貨金銀大幅下挫

白銀黃金又跌了2026-06-08 08:15:42

偶遇首屆學(xué)生執(zhí)勤警號(hào)017985 師生驚喜重逢

偶遇首屆學(xué)生執(zhí)勤警號(hào)0179852026-06-08 08:17:25

白銀黃金又跌了 現(xiàn)貨金銀大幅下挫

白銀黃金又跌了2026-06-08 08:15:42

謝寒冰：“韓流”效應(yīng)難在新北復(fù)制 特質(zhì)不同影響有限

謝寒冰,韓流效應(yīng)難在新北復(fù)制2026-06-07 13:44:01

紅旗-16F有多強(qiáng) 射程突破遠(yuǎn)程防空天花板

紅旗-16F有多強(qiáng)2026-06-07 10:27:11

如何看待巴西總統(tǒng)公開叫板美國(guó) 堅(jiān)決反擊關(guān)稅霸權(quán)

如何看待巴西總統(tǒng)公開叫板美國(guó)2026-06-07 10:25:07

黃巖島有“不明結(jié)構(gòu)物”消失？中方回應(yīng) 正當(dāng)權(quán)利活動(dòng)

黃巖島有不明結(jié)構(gòu)物消失,中方回應(yīng)2026-06-08 08:14:36

北京多地驚現(xiàn)“大號(hào)蒲公英”為何不能碰？外來入侵物種揭秘

北京多地驚現(xiàn)大號(hào)蒲公英為何不能碰2026-06-08 08:07:15

一覺醒來美國(guó)和伊朗又打起來了！霍爾木茲海峽警報(bào)拉響

一覺醒來美國(guó)和伊朗又打起來了2026-06-08 08:00:03

12306回應(yīng)火車出發(fā)7小時(shí)中途折返 暴雨影響行程

12306回應(yīng)火車出發(fā)7小時(shí)中途折返2026-06-08 08:15:20

普京為何稱現(xiàn)在與澤連斯基會(huì)面無意義 需先找到解決沖突方案

普京為何稱現(xiàn)在與澤連斯基會(huì)面無意義2026-06-06 20:52:44

央視曝光手機(jī)高價(jià)回收騙局 超高價(jià)誘惑陷阱

央視曝光手機(jī)高價(jià)回收騙局2026-06-08 08:10:23

NASA：國(guó)際空間站宇航員準(zhǔn)備隨時(shí)撤離 長(zhǎng)期漏氣威脅安全

NASA,國(guó)際空間站宇航員準(zhǔn)備隨時(shí)撤離2026-06-08 08:02:19

高考延時(shí)30%抹平生理壁壘 彰顯教育公平與社會(huì)溫度

高考延時(shí)30%抹平生理壁壘2026-06-08 08:03:47

伊朗高官：談判主動(dòng)權(quán)在特朗普手里，解凍資產(chǎn)成關(guān)鍵

伊朗高官,談判主動(dòng)權(quán)在特朗普手里2026-06-06 22:28:08

98版《水滸傳》晁蓋飾演者張治中逝世 德藝雙馨藝術(shù)家隕落

98版水滸傳晁蓋飾演者張治中逝世2026-06-08 08:05:38

臺(tái)媒體人翟翾曝蔡正元服刑近況 家人探望有限

臺(tái)媒體人翟翾曝蔡正元服刑近況2026-06-06 20:54:28

美防長(zhǎng)訪問法國(guó) 6名子女隨行遭吐槽 安保壓力引爭(zhēng)議

美防長(zhǎng)訪問法國(guó)6名子女隨行遭吐槽2026-06-08 08:09:38

金價(jià)下跌，金店老板一晚資產(chǎn)縮水300萬，訂50克黃金手鐲還沒到貨就虧5千 金飾價(jià)格跌兩成

金價(jià)下跌,金店老板一晚資產(chǎn)縮水300萬,訂50克黃金手鐲還沒到貨就虧5千2026-06-08 08:14:01

吃火鍋看到老鼠亂竄商家道歉賠償 門店被責(zé)令整改

吃火鍋看到老鼠亂竄商家道歉賠償2026-06-08 08:05:54

中國(guó)游客不慎拍到瑞典敏感設(shè)施被拘 旅行拍照需謹(jǐn)慎

中國(guó)游客不慎拍到瑞典敏感設(shè)施被拘2026-06-08 08:10:02

馬桶干翻價(jià)值130億美元的航母 美軍霸權(quán)困境顯現(xiàn)

馬桶干翻價(jià)值130億美元的航母2026-06-06 20:54:00

好的人生可以慢慢來 張弛有度從容前行

好的人生可以慢慢來2026-06-08 08:07:44

宗馥莉自有品牌飲料無娃哈哈痕跡 企業(yè)更名潮起

宗馥莉自有品牌飲料無娃哈哈痕跡2026-06-08 08:04:09

有理兒有面：日本不只想改南京大屠殺 歷史不容翻案

有理兒有面,日本不只想改南京大屠殺2026-06-07 10:29:43

德國(guó)男子1分鐘吃掉2斤半蜂蜜 刷新吉尼斯紀(jì)錄

德國(guó)男子1分鐘吃掉2斤半蜂蜜2026-06-08 08:16:47

俄方：烏在局部?；鹕Ш蟀l(fā)動(dòng)襲擊 呼吁保持克制

俄方,烏在局部?；鹕Ш蟀l(fā)動(dòng)襲擊2026-06-06 19:16:51

古巴國(guó)家主席：渴求和平也不容侵犯 堅(jiān)定捍衛(wèi)國(guó)家尊嚴(yán)

古巴國(guó)家主席,渴求和平也不容侵犯2026-06-06 22:31:50

墜海漂流7天男子靠生吃螃蟹續(xù)命 奇跡生還背后的溫情救援

墜海漂流7天男子靠生吃螃蟹續(xù)命2026-06-08 08:04:29

伊朗稱再襲美軍第五艦隊(duì)重要設(shè)施 真相撲朔迷離

伊朗稱再襲美軍第五艦隊(duì)重要設(shè)施2026-06-08 07:59:08

普京與施羅德熱聊“冷拒”澤連斯基 密談與拒見并行

普京與施羅德熱聊冷拒澤連斯基2026-06-06 20:55:46

買買買能解決印度空軍困局嗎 豪華裝備難掩體系短板

買買買能解決印度空軍困局嗎2026-06-07 10:26:57

相關(guān)新聞