April 28, 2026 2 minutes min read

開源模型的效率革命:混合專家架構的實際意義

混合專家架構的效率優勢分析——稀疏激活技術如何改變AI部署的成本結構

開源模型的效率革命:混合專家架構的實際意義

DeepSeek R1-2 在 2026 年初發布,迅速成為開源 AI 推理模型的標竿。R1-2 採用 MoE 架構(總參數 671B,激活參數約 37B),其核心突破在於將強化學習(RL)驅動的推理能力達到了接近 OpenAI o3 的水準——同時保持了開源權重和低廉的訓練成本。

R1-2 的推理能力建立在群組相對策略優化(Group Relative Policy Optimization, GRPO)之上。GRPO 是 DeepSeek 從零開發的強化學習算法——與傳統 RLHF(需要一個龐大的獎勵模型來評估輸出品質,而獎勵模型本身需要大量人類偏好數據訓練)不同,GRPO 透過在同一推理任務中生成多個候選輸出,比較它們的相對品質來更新策略。這一方法將訓練成本降低了約 70%,同時在數學和程式碼推理任務上達到了與 RLHF 相當的品質。

R1-2 在推理性能上取得了多項引人矚目的基準成績:MATH-500 上達到 97.3%(OpenAI o3 為 97.7%、GPT-5 為 96.5%),AIME 2025 數學競賽中得分 79.8%(o3 為 87.3%)。R1-2 在 SWE-bench Verified 上的 71.4% 正確率使其在所有已知開源模型中排名第一。R1-2 也展示了高效的「思維鏈壓縮」能力——能夠用更少的推理步驟達到同等或更好的結果,這對於需要多次推理調用的應用場景(如 AI agent 工作流)具有顯著的成本優勢。

R1-2 的開源發布引發了對「與中國模型共享前沿 AI 能力」的安全討論。美國出口管制政策的核心假設——限制先進 GPU 的出口可延緩中國 AI 實驗室的能力進展——受到 R1-2 在 H800 GPU 集群上訓練並取得世界級成果這一事實的挑戰。R1-2 證明了在算力受限條件下,算法創新可以在一定程度上彌補硬體劣勢——這一結論對全球 AI 半導體出口管制政策的有效性提出了根本性質疑。

DeepSeek 的開源策略也引發了關於「開源是否會導致 AI 風險擴散」的辯論。一些 AI 安全研究人員指出,R1-2 的推理能力可以被用於生成更有效率的網路攻擊計劃或規避內容審查系統的文本。然而,開源社群的反駁立場是:封閉模型(如 GPT-5 和 o3)同樣可以被濫用,而開源至少允許安全研究人員獨立審查模型行為並開發防禦策略。

DR GRPO 算法詳解

DeepSeek R1-2 的推理能力建立在群組相對策略優化(GRPO)之上——這是 DeepSeek 從零開發的強化學習算法。傳統 RLHF 需要一個龐大的獎勵模型(reward model)來評估輸出品質——而獎勵模型本身需要大量人類偏好數據進行訓練——使 RLHF 的訓練成本極高且數據收集週期長。GRPO 透過在同一推理任務中生成多個候選輸出(通常 k=64),比較它們的相對品質來更新策略——不需要外部獎勵模型。GRPO 的訓練成本降低了約 70%,同時在數學和程式碼推理任務上達到了與 RLHF 相當的品質。

R1-2 在 GRPO 訓練中還應用了「推理召回懲罰」——如果模型在推理過程中跳過必要的中間步驟直接輸出答案,即使答案正確,也會受到策略懲罰。這鼓勵模型展示完整的推理鏈條——提高了模型推理的可解釋性和可靠性。同時 DeepSeek 使用了「在線策略 mirror descent」優化——在訓練過程中動態調整 GRPO 的超參數——以穩定大規模 RL 訓練的收斂性。

性能標準

R1-2 在推理性能上取得了多項引人矚目的成績:MATH-500 上 97.3%(OpenAI o3 為 97.7%、GPT-5 為 96.5%),AIME 2025 數學競賽中 79.8%(o3 為 87.3%,但 o3 使用了更高計算預算的推理模式)。R1-2 在 SWE-bench Verified 上的 71.4% 正確率使其在所有已知開源模型中排名第一。

R1-2 展示了高效的「思維鏈壓縮」能力——用更少的推理步驟達到同等或更好的結果。在 2026 年的一項獨立評估中,R1-2 在需要 10+ 步推理的 GPQA 基準上使用了比 o3 少 40% 的 token 達到 92% 的相對準確率——對於需要多次推理調用的應用場景(如 AI agent 工作流)具有顯著的成本優勢。

開源發布與安全討論

R1-2 的開源發布引發了對「與中國模型共享前沿 AI 能力」的安全討論。美國出口管制政策的核心假設——限制先進 GPU 出口可延緩中國 AI 實驗室的能力進展——受到 R1-2 在 H800 GPU 上訓練並取得世界級成果這一事實的挑戰。R1-2 證明了在算力受限條件下算法創新可以在一定程度上彌補硬體劣勢——對全球 AI 半導體出口管制政策的有效性提出了根本性質疑。

開源社群對 R1-2 的反應極為積極——Hugging Face 下載量在發布後 48 小時內突破 100 萬次。R1-2 被廣泛用於微調領域專用模型——程式碼助手、數學推理系統和科學文獻分析。但開源推理模型也可能被惡意使用——生成更有效的網絡釣魚郵件或規避內容審查。開源社群的反駁:封閉模型同樣可以被濫用——開源至少允許安全研究人員獨立審查模型行為並開發防禦策略。

與 DeepSeek V4 的關係

R1-2 和 DeepSeek V4 在 DeepSeek 的產品線中扮演不同角色。V4 是通用基礎模型—覆蓋語言理解、生成和多模態任務——R1-2 是專用推理模型——在需要深度推理的任務上(數學、程式碼、邏輯)表現更優。DeepSeek 的 API 服務同時提供兩個模型——用戶根據任務類型選擇最適合的模型。在 DeepSeek 的內部測試中——對於需要 5+ 步推理的任務 R1-2 的準確率比 V4 高 12-18%——但推理速度慢 3-5 倍(因為需要更長的思維鏈生成)。這種「通用 + 推理」雙模型策略正被越來越多的 AI 實驗室採用——包括 OpenAI(GPT-5 + o3)和 Anthropic(Claude 4 + Claude 4 Reasoning)。

產業影響

R1-2 的開源發布不僅是技術成就——更是 AI 產業格局的結構性變化。DeepSeek 的開源策略——公開技術報告、訓練配置和模型權重——建立了全球開發者信任和學術影響力。2026 年 DeepSeek 論文的引用量超越 Google DeepMind。全球開發者社群基於 R1-2 進行二次開發——在數學、程式碼、醫療診斷和法律分析等領域建立了大量微調模型——形成圍繞 DeepSeek 的技術生態。R1-2 的影響力不僅在學術界——在企業部署中 R1-2 被用於需要高可靠性推理的場景——代碼審查、供應鏈優化、金融風險評估和科學研究——為開源模型在企業級推理任務中的應用確立了新的性能標杆。

開源生態的競爭

DeepSeek R1-2 的開源發布加劇了開源推理模型的競爭。Meta 在 2026 年發布了 Llama 4 Reasoning——基於 Llama 4 的推理增強版本——使用類似 GRPO 的訓練方法——在 MATH-500 上達到 94.8%(R1-2 為 97.3%)。阿里巴巴發布了 Qwen 4.5 Reasoning——在中文數學推理(CMATH)上超越了 R1-2。開源推理模型正在快速追趕——但 DeepSeek R1-2 憑藉最好的基準性能和先發優勢——在開源推理模型的賽道中保持領先地位。開源推理模型的競爭不僅是基準分數的競爭——更是開發者生態系統的競爭——擁有更多下載量、社群貢獻和第三方整合的模型將獲得持續的發展動力和商業化機會。