馬斯克宣布開(kāi)源Grok-2 最強(qiáng)開(kāi)源模型問(wèn)世!馬斯克終于開(kāi)源了Grok-2。xAI正式宣布向所有人開(kāi)放Grok-2,并預(yù)告Grok-3將在6個(gè)月后開(kāi)源。Grok-2于2024年完成訓(xùn)練,體積超過(guò)500GB,其混合專家(MoE)架構(gòu)在Grok-1的基礎(chǔ)上進(jìn)行了改進(jìn)。
此次開(kāi)源包括Grok-2的核心部分,技術(shù)特點(diǎn)如下:總參數(shù)量高達(dá)9050億,在推理時(shí)每次激活其中的1360億參數(shù),使其成為目前最強(qiáng)大的開(kāi)源模型之一;支持高達(dá)131,072 token的上下文長(zhǎng)度,可以一次性處理非常長(zhǎng)的文檔或?qū)υ挌v史;采用混合專家架構(gòu),可以在不增加巨大計(jì)算成本的前提下大幅擴(kuò)展模型規(guī)模;預(yù)訓(xùn)練數(shù)據(jù)覆蓋了大量的文本和代碼,截止到2024年初。
關(guān)于開(kāi)源權(quán)限,當(dāng)關(guān)聯(lián)公司年收入低于一百萬(wàn)美元時(shí),才可用于商業(yè)用途,超過(guò)此門檻的商業(yè)用途需獲得xAI的單獨(dú)許可。除非協(xié)議條款允許對(duì)Grok 2進(jìn)行修改或微調(diào),否則不得使用材料、衍生品或輸出來(lái)訓(xùn)練、創(chuàng)建或改進(jìn)任何基礎(chǔ)、大型語(yǔ)言或通用人工智能模型。
現(xiàn)在,Grok-2已在Hugging Face上開(kāi)放下載。用戶可以通過(guò)SGLang部署,下載權(quán)重文件并啟動(dòng)服務(wù)器。下載過(guò)程中可能會(huì)遇到一些錯(cuò)誤,需要多次重試直到成功。下載完成后,該文件夾下應(yīng)包含42個(gè)文件,總大小約500GB。啟動(dòng)服務(wù)器需要安裝最新版的SGLang推理引擎,并使用正確的對(duì)話模板發(fā)送請(qǐng)求。
網(wǎng)友XFreeze表示,xAI的發(fā)展速度極其驚人,僅用122天建成并全面投入運(yùn)營(yíng)的孟菲斯巨像數(shù)據(jù)中心配備了100,000塊英偉達(dá)H100 GPU。短短兩年內(nèi),xAI憑借Grok 4的發(fā)布,以極其精簡(jiǎn)的團(tuán)隊(duì)登頂全球最強(qiáng)人工智能之巔。黃仁勛曾稱這是“超人”之舉,只有馬斯克能做到。有網(wǎng)友認(rèn)為,這一切就像在實(shí)時(shí)觀看一個(gè)科幻夢(mèng)想成真,真正達(dá)到了創(chuàng)新的巔峰。預(yù)計(jì)5年內(nèi),xAI將打造出5000塊H100巨無(wú)霸超算,老馬自信滿滿地表示,xAI很快就能超越谷歌以外的所有對(duì)手。
xAI終于發(fā)布了下一代大模型Grok 4,其能力超乎想象。北京時(shí)間今天中午12點(diǎn)左右,馬斯克在直播中表示這是世界上最好的AI,并展示了其強(qiáng)大功能
2025-07-10 14:26:43馬斯克宣布Grok4發(fā)布