全球掀DeepSeek復(fù)現(xiàn)狂潮硅谷巨頭神話崩塌！

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-01-26 16:20:37 新浪財經(jīng)

硅谷正經(jīng)歷由中國公司引發(fā)的重大變革。全美都在擔憂全球人工智能的中心是否已經(jīng)轉(zhuǎn)向中國。此時，全球范圍內(nèi)掀起了復(fù)現(xiàn)DeepSeek模型的熱潮。正如LeCun所說：“這是開源對閉源的一次勝利?！边@些討論引發(fā)了人們對數(shù)百億美元支出必要性的質(zhì)疑，甚至有人預(yù)測中國量化基金可能會導(dǎo)致納斯達克崩盤。

未來，大模型時代可能進入一個分水嶺：高性能模型不再僅限于算力巨頭，而是每個人都能擁有。UC伯克利博士生潘家怡及其團隊在CountDown游戲中復(fù)現(xiàn)了DeepSeek R1-Zero，結(jié)果令人滿意。實驗表明，通過強化學(xué)習(xí)，3B的基礎(chǔ)語言模型也能自我驗證和搜索，成本不到30美元即可見證“啊哈”時刻。該項目名為TinyZero，采用R1-Zero算法，給定基礎(chǔ)語言模型、提示和真實獎勵信號后運行強化學(xué)習(xí)。模型從簡單輸出開始，逐步進化出自我糾正和搜索策略。

消融實驗中，研究人員使用了Qwen-2.5-Base的不同參數(shù)規(guī)模（0.5B、1.5B、3B、7B）。結(jié)果顯示，0.5B模型只能猜測解決方案，而從1.5B開始，模型學(xué)會了搜索、自我驗證和修正解決方案，從而獲得更高分數(shù)。研究還發(fā)現(xiàn)，額外的指令微調(diào)并非必要，這支持了R1-Zero的設(shè)計決策。此外，具體的RL算法并不重要，PPO、GRPO、PRIME等算法都能帶來不錯的性能表現(xiàn)。

港科大助理教授何俊賢的團隊僅用8K樣本，在7B模型上復(fù)現(xiàn)了DeepSeek-R1-Zero和DeepSeek-R1的訓(xùn)練，取得了顯著成果。他們在AIME基準上實現(xiàn)了33.3%的準確率，在AMC上為62.5%，在MATH上為77.2%。這一表現(xiàn)不僅超越了Qwen2.5-Math-7B-Instruct，還能與使用更多數(shù)據(jù)和復(fù)雜組件的PRIME和rStar-MATH相媲美。他們使用純PPO方法訓(xùn)練Qwen2.5-7B-SimpleRL-Zero，并采用MATH數(shù)據(jù)集中的8K樣本。Qwen2.5-7B-SimpleRL則先進行Long CoT監(jiān)督微調(diào)，再進行強化學(xué)習(xí)。兩種方法都只使用相同的8K MATH樣本。在第44步時，模型出現(xiàn)了自我反思能力，并表現(xiàn)出更長的CoT推理能力。

HuggingFace團隊也宣布復(fù)刻DeepSeek R1的所有流程，并將所有訓(xùn)練數(shù)據(jù)和腳本開源。項目命名為Open R1，發(fā)布一天內(nèi)獲得了超過1.9k星標和142個fork。DeepSeek的成功使其成為美國頂尖高校研究人員的首選模型，甚至取代了一些人對ChatGPT的需求。這次，中國AI確實震撼了世界。

(責(zé)任編輯：張佳鑫 0764)

關(guān)閉

全球掀DeepSeek復(fù)現(xiàn)狂潮 硅谷巨頭神話崩塌！

相關(guān)新聞

今日熱點

頻道熱點

全球掀DeepSeek復(fù)現(xiàn)狂潮硅谷巨頭神話崩塌！