智源研究院宣布,已聯(lián)合多個(gè)芯片廠商共同開發(fā)并開源DeepSeek-R1多芯片版本,旨在推動大模型在不同芯片上的適配應(yīng)用,打破生態(tài)墻和算力束縛,構(gòu)建多元芯片的統(tǒng)一技術(shù)棧和開源軟硬件生態(tài)。此次發(fā)布的基于FlagOS的DeepSeek-R1多芯片版本,是業(yè)界首次通過統(tǒng)一開源軟件棧實(shí)現(xiàn)的多芯片開源版本,并給出了嚴(yán)謹(jǐn)?shù)哪P蛯R結(jié)果,確保了開源可用性和統(tǒng)一易用性。
智源研究院副院長兼總工程師林詠華表示,基于FlagOS,用戶只需幾步即可在支持的AI芯片服務(wù)器上完成環(huán)境搭建和模型部署,這意味著國產(chǎn)芯片也可以部署滿血版DeepSeek-R1。DeepSeek-R1多芯片版本使用同一套開源代碼和底層框架,在不同AI芯片架構(gòu)上實(shí)現(xiàn)了推理功能,推動了生態(tài)統(tǒng)一與開放。在各個(gè)芯片服務(wù)器上,均與英偉達(dá)芯片上的DeepSeek-R1進(jìn)行了嚴(yán)格評測,確保效果一致。
多芯片版本的源代碼、模型文件以及一站式Docker運(yùn)行鏡像文件已在GitHub、Gitee、Huggingface和魔搭等平臺上開放,方便開發(fā)者獲取。依托各芯片適配的基礎(chǔ)鏡像,安裝FlagOS核心組件,包括異構(gòu)并行訓(xùn)推框架FlagScale和大模型通用算子庫FlagGems。這使得一鍵部署DeepSeek-R1模型服務(wù)和自動分布式推理調(diào)優(yōu)成為可能,同時(shí)提供與OpenAI兼容的API,降低了使用門檻,提升了部署效率。
廣發(fā)證券指出,大模型的核心競爭力在于算法、算力和數(shù)據(jù)的協(xié)同進(jìn)化
2025-02-22 00:18:26券商2月22日,2025全球開發(fā)者先鋒大會(GDC)在上海徐匯西岸穹頂藝術(shù)中心正式開幕。大會以“模塑全球 無限可能”為主題,從2月21日至23日舉行
2025-02-26 11:05:51大模型開源卷到視頻領(lǐng)域