中国研究人员又做到了！OpenBMB刚刚开源了MiniCPM5-2B，这是一款针对资源受限硬件上进行推理、编码和工具调用的密集型20亿参数模型。Artificial Analysis在其智能体指数对比中将该模型列为40亿参数以下模型的最高分。它获得了20分，而Granite 4.2 8B得分为9。该模型在编码和工具调用方面表现尤为突出，因此我本地测试了这两项能力。我将其下载到我的机器上，连接到一个受限的CI修复智能体，并给它布置了一个任务：

一位客户报告说，使用相同的幂等键重试结账会返回一个更大的总额。首次请求返回109美元，而重试请求返回118美元。请找出根本原因，在不改变公共API契约的情况下修复它，并验证完整的测试套件。 该Python结账服务有18个测试。16个通过，2个在重试路径上失败。该智能体可以列出文件、搜索代码、读取选定范围、运行批准的测试、应用补丁并检查其差异。它复现了失败，然后沿着仓库中的结账和幂等键路径进行追踪。该模型发现，在检查缓存结果之前，运费已被添加到可变的订单状态中。重试时，同一个订单已经包含了运费，因此计算又添加了一次。它生成了一个精细的补丁，将幂等键检查移到了变更之前，而没有改变公共API。该智能体运行了针对性测试和完整套件。所有18个测试全部通过。从未告知模型哪个文件包含问题或应进行何种更改。每个测试结果、搜索结果和代码检查都决定了其下一步行动。 下方的视频展示了完整的轨迹，包括调查过程、工具调用、生成的补丁、差异和最终验证。整个运行过程100%在我的本机本地执行。 MiniCPM5-2B支持通过llama.cpp、Ollama、vLLM、SGLang、iOS、Android和HarmonyOS进行本地部署。模型权重、训练方案、推理数据集和UltraX数据精炼系统均已开源。 GitHub仓库：https://huggingface.openbmb.cn/model/openbmb/MiniCPM5-2B?from=akshay_pachaar… 一个20亿参数的模型现在能够检查仓库、跨多个文件进行推理、修改代码并验证其补丁，同时其体量足够小，可以针对本地硬件部署。

openbmb/MiniCPM5-2B · Hugging Face

来源：https://huggingface.co/openbmb/MiniCPM5-2B

MiniCPM技术报告 (https://arxiv.org/pdf/2506.07900) | MiniCPM Wiki（中文） (https://modelbest.feishu.cn/wiki/UtWxwcERfiRIpIkBOjuc3h9tn1D) | GitHub仓库 (https://github.com/OpenBMB/MiniCPM) | UltraData (https://ultradata.openbmb.cn/) | 在线演示 (https://huggingface.co/spaces/openbmb/MiniCPM5-2B-Demo)

English | 中文 (https://huggingface.co/openbmb/MiniCPM5-2B/blob/main/README-cn.md)

https://huggingface.co/openbmb/MiniCPM5-2B#highlights亮点

我们发布了 MiniCPM5-2B，这是 MiniCPM5 系列的第二款模型，继 MiniCPM5-1B 之后。它是一个密集的20亿参数Transformer模型，扩展了相同的训练方案，专为设备端、本地部署和资源受限场景构建，达到了20亿参数级别的开源SOTA水平。

🏆 20亿参数级开源SOTA：与同等规模的强劲开源模型相比，MiniCPM5-2B在该比较集中达到了SOTA性能。在整体上，它与40亿参数级模型相比仍具竞争力，同时在编码、数学、长上下文理解、工具使用和智能体任务方面，展现出超越同等规模模型的优势。

📂 开源高质量数据：伴随模型，我们开源了其背后的高质量训练数据集，作为 UltraData 家族的一部分：UltraX（高质量网页预训练数据集）；UltraData-Code（包含L0-L3分级代码数据管理，以驱动编码能力显著提升）；UltraData-SFT-Agent-2609（包含50万条智能体训练样本，以增强全面的设备端智能体能力）；以及 UltraData-RL-2609（包含超过8万条涵盖数学、代码、通用知识和长上下文推理的高质量RL训练样本）。

https://huggingface.co/openbmb/MiniCPM5-2B#model-list模型列表

使用此目录选择与您的运行时匹配的模型格式：

MiniCPM5-2B

• MiniCPM5-2B · ModelScope · BF16最终发布版（使用RL + OPD后训练）👈 您在此处
• MiniCPM5-2B-SFT · ModelScope · BF16仅SFT检查点（RL/OPD之前）
• MiniCPM5-2B-Midtrain · ModelScope · BF16中期训练检查点（SFT之前）
• MiniCPM5-2B-Base · ModelScope · BF16基础检查点（仅预训练）
• MiniCPM5-2B-GGUF · ModelScope · 适用于llama.cpp / Ollama / LM Studio的GGUF格式
• MiniCPM5-2B-MLX · ModelScope · 适用于Apple Silicon的MLX / 4bit格式
• MiniCPM5-2B-GPTQ · ModelScope · GPTQ / 4bit量化模型
• MiniCPM5-2B-DSpark · ModelScope · 用于推理加速的DSpark草稿模型
• MiniCPM5-2B-DSpark-GGUF · ModelScope · DSpark草稿模型的GGUF版本
• MiniCPM5-2B-LiteRT · ModelScope · MiniCPM5-2B的LiteRT-LM版本

MiniCPM5-1B

• MiniCPM5-1B · ModelScope · BF16最终发布版（使用RL + OPD后训练）
• MiniCPM5-1B-SFT · ModelScope · BF16仅SFT检查点（RL/OPD之前）
• MiniCPM5-1B-Base · ModelScope · BF16基础检查点（仅预训练）
• MiniCPM5-1B-GGUF · ModelScope · 适用于llama.cpp / Ollama / LM Studio的GGUF格式
• MiniCPM5-1B-MLX · ModelScope · 适用于Apple Silicon的MLX / 4bit格式

https://huggingface.co/openbmb/MiniCPM5-2B#model-information模型信息

MiniCPM5-2B具有以下特性：

• 类型：因果语言模型
• 架构：标准的 LlamaForCausalLM
• 参数数量：2,516,756,480
• 非嵌入层参数数量：1,981,982,720
• 层数：42
• 注意力头数（GQA）：Q头16个，KV头2个
• 上下文长度：131,072

https://huggingface.co/openbmb/MiniCPM5-2B#introduction简介

MiniCPM5-2B是MiniCPM5系列的第二款模型。它专为本地助手、编码智能体、工具使用工作流以及需要紧凑模型的推理场景而设计。该模型在保持小部署体积的同时，提供了原生的长上下文支持。

https://huggingface.co/openbmb/MiniCPM5-2B#evaluation-results评测结果

我们将MiniCPM5-2B与同等规模的强劲开源模型进行比较，包括LFM2.5-2.6B、Qwen3.5-2B和Gemma-4-E2B-it，同时也列出了更大模型如Qwen3.5-4B、granite-4.2-3B、Nemotron-3-Nano-4B、Gemma-4-E4B-it和LFM2.5-8B-A1B作为参考。

在该比较集中，MiniCPM5-2B以平均分53.9达到了20亿参数级开源SOTA，并且也超过了此处包含的所有更大模型（最高分为51.1）。其优势在代码推理、数学推理、长上下文理解、工具使用和多项智能体任务中最为明显。

MiniCPM5-2B与基线模型的评测结果

1. 蓝色粗体表示该行所有模型中的最佳结果（包括4B级模型）；黑色粗体表示2B级模型中的最佳结果。
2. 标记†的分数来自Artificial Analysis的官方发布；其余均为内部复现结果。

https://huggingface.co/openbmb/MiniCPM5-2B#training-recipe训练方案

MiniCPM5-2B的训练是UltraData分级数据管理 (https://arxiv.org/pdf/2602.09003) 的完整实践，涵盖三个阶段：基础训练、中期训练和后训练。

在基础训练阶段，模型经历稳定训练和衰减训练，以构建核心语言能力和训练稳定性。然后进入中期训练，进一步强化目标能力并适应目标数据分布。训练语料库随模型一同发布，包括 Ultra-FineWeb、Ultra-FineWeb-L3、UltraX、UltraData-Code 和 UltraData-Math。

在后训练阶段，我们分三步进行：SFT、RL和OPD。我们首先使用400B token的深度思考SFT来建立深度思考和通用聊天能力；SFT数据发布为 UltraData-SFT-2605，智能体SFT数据发布为 UltraData-SFT-Agent-2609。然后，我们为数学、代码、智能体任务、写作及相关领域训练专门的RL教师（相应数据也开源为 UltraData-RL-2609），并使用策略内蒸馏（OPD） 将这些教师的知识蒸馏回一个发布模型。

MiniCPM5-2B 训练方案

https://huggingface.co/openbmb/MiniCPM5-2B#what-does-rl–opd-bringRL + OPD 带来了什么？

RL + OPD 是 MiniCPM5-2B 后训练的关键部分。在RL阶段，我们采用了 JustRL II 中描述的基于评论家的算法，显著提高了训练稳定性，并在多个领域取得了显著收益。在下面列出的基准测试中，RL + OPD 将推理和通用能力平均提升了**↑10.96分**，智能体能力提升了**↑6.96分**。

OPD 整合了由 RL 训练产生的16个专家模型的能力，其中包括5个智能体专家模型。在每个响应位置，我们计算学生和教师 logits 之间完整词汇表的反向KL散度作为优势估计，取代了原始的基于验证的优势。OPD 直接重用于训练每个 RL 教师的提示作为蒸馏数据，因此不需要额外构建语料库。

MiniCPM5-2B RL + OPD 收益

https://huggingface.co/openbmb/MiniCPM5-2B#quickstart快速开始

https://huggingface.co/openbmb/MiniCPM5-2B#vllmvLLM

pip install "vllm>=0.21"
vllm serve openbmb/MiniCPM5-2B --port 8000

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openbmb/MiniCPM5-2B",
    "messages": [{"role": "user", "content": "Who are you? Please briefly introduce yourself."}],
    "max_tokens": 128,
    "temperature": 1.0
  }'

https://huggingface.co/openbmb/MiniCPM5-2B#sglangSGLang

pip install "sglang[srt]>=0.5.16"
python -m sglang.launch_server --model-path openbmb/MiniCPM5-2B --port 30000

curl http://localhost:30000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openbmb/MiniCPM5-2B",
    "messages": [{"role": "user", "content": "Who are you? Please briefly introduce yourself."}],
    "max_tokens": 128,
    "temperature": 1.0
  }'

投机解码（DSpark）：我们还发布了 MiniCPM5-2B-DSpark，一个专门为 MiniCPM5-2B 训练的 DSpark 草稿模型。在 SGLang 中启用它可以加速