微軟今日宣布,通過Azure AI Foundry接入DeepSeek-R1 7B和14B蒸餾模型,為Copilot+ PC提供本地運行這兩種模型的能力。今年1月,微軟曾計劃將DeepSeek-R1模型的NPU優(yōu)化版本直接帶到搭載高通驍龍X處理器的Copilot+ PC上,如今這一承諾已經(jīng)實現(xiàn)。
從微軟官方博客了解到,這些模型將首先在搭載高通驍龍X處理器的設備上上線,隨后擴展到英特爾酷睿Ultra 200V和AMD銳龍的設備。由于模型運行在NPU上,這不僅減少了對PC電池續(xù)航和散熱性能的影響,還使得CPU和GPU能夠執(zhí)行其他任務,從而持續(xù)獲得AI計算能力。
微軟使用了Aqua內(nèi)部自動量化工具,將所有DeepSeek模型變體量化為int4權(quán)重。然而,目前模型的標記速度較低,14B模型僅為8 tok/秒,而1.5B模型接近40 tok/秒。微軟表示正在進一步優(yōu)化以提高速度。開發(fā)者可以通過AI Toolkit VS Code擴展在Copilot+ PC上下載并運行DeepSeek模型的不同版本。
2月16日,深圳宣布,全市政務系統(tǒng)全面啟用DeepSeek大模型。2月17日,宣布首批70名政務AI“新員工”已經(jīng)正式上崗。
2025-02-19 10:21:17政務系統(tǒng)擁抱DeepSeek