1B 打败 2B：MiniCPM5-1B 是怎么把端侧 AI 拉进「真香定律」的？

一家中国公司刚刚把”AI 写训练框架”从 PPT 搬到了生产车间，产出的第一个作品就是 1B 打败 2B——而且真的能装进你手机里。

一句话定位

MiniCPM5-1B 是面壁智能联合清华大学、OpenBMB 开源社区于 2026 年 5 月 19 日发布的端侧文本基座大模型，1B 稠密 Transformer，INT4 量化后体积仅 0.5GB——能跑在手机、浏览器，甚至纯 CPU 环境。

但这 0.5GB 里藏着的不是”又一个被压缩的小模型”，而是一个全新的研发范式：

让 AI 自己写训练框架，训练出更强的模型，再用更强的模型生成更好的框架与数据——循环加速，自进化飞轮。

1B 打败 2B：不是营销，是 4 个榜单的共识

过去我们总觉得”模型越大 = 模型越强”。MiniCPM5-1B 用一连串数据把这个等式砸得稀碎。

AA-Index 17.9：1B 反超 2B

Artificial Analysis Intelligence Index（AA-Index）是国际权威第三方模型评测榜单。MiniCPM5-1B 的得分 17.9，超越所有 2B 参数以下模型——包括参数翻倍的 Qwen3.5-2B（16.3 分）。

模型	参数	AA-Index 分数
MiniCPM5-1B	1B	17.9
Qwen3.5-2B	2B	16.3
LFM2.5-1.2B-Thinking	1.2B	显著低

LCB-Pro 22.68：代码能力的”代际碾压”

更狠的是代码能力。在 LCB-Pro（LiveCodeBench Pro，编程竞赛级评测）上：

MiniCPM5-1B：22.68
Qwen3.5-2B：0.00（是的，零分）
LFM2.5-1.2B-Thinking：6.19

Qwen3.5-2B 在编程竞赛级题目上直接交白卷，而 MiniCPM5-1B 拿了 22.68 分——这已经不是”略胜一筹”，是”代际碾压“。

7 维横评：平均分 +7 分

OpenBMB 公开的 7 维度横评（推理 / 知识 / 代码 / 指令跟随 / 数学 / 逻辑 / Agentic），MiniCPM5-1B 平均分 42.57，而同尺寸最高水平只有 35.61。优势集中在三个领域：

✅ Agentic 工具调用：同尺寸最强
✅ 代码生成：LCB-Pro 22.68 碾压
✅ 竞赛数学：领先

这意味着 1B 模型不仅能在”智能密度”维度反超 2B，还能在生产场景最关心的代码与工具调用维度做出”以小博大”。

双模式推理：1 份权重 = 2 种行为

MiniCPM5-1B 用了标准 LlamaForCausalLM 架构（业内最广泛兼容，零迁移成本），但内置了一个有意思的设计——Think / No Think 双模式。

# 切换深度推理 inputs = tokenizer.apply_chat_template( messages, enable_thinking=True, # 深度思考模式 ... ) # 切换快速响应 inputs = tokenizer.apply_chat_template( messages, enable_thinking=False, # 快速对话模式 ... )

模式	适用场景	采样参数
Think	数学、代码、复杂逻辑	temperature=0.9, top_p=0.95
No Think	对话、问答、工具调用	temperature=0.7, top_p=0.95

端侧价值：1 份权重 = 2 种行为，按需切换——简单任务走 No Think 省电省时间，复杂任务走 Think 拿质量。维护成本、存储成本、调度复杂度全部减半。

工具调用：SGLang 原生支持

MiniCPM5-1B 以 XML 格式产出工具调用，配合 SGLang 内置的 minicpm5 parser，自动转成 OpenAI 兼容的 tool_calls 字段：

python -m sglang.launch_server \ --model-path openbmb/MiniCPM5-1B \ --port 30000 --tool-call-parser minicpm5

Coding Agent 价值：工具调用 + 代码能力双第一，是端侧 Coding Agent 的最佳基座候选。

AI 自进化飞轮：行业首个”AI 写训练框架”

如果说 1B 打败 2B 是结果，那么真正让这个结果”可复现、可迭代”的是背后的Forge Engineering 范式。

ForgeTrain：行业首个 AI 编写的生产级训练框架

MiniCPM5-1B 的 Base 模型由 ForgeTrain 预训练完成——这是全球首个完全由 AI 编写、并成功训练出工业生产级模型的大模型训练框架。

关键事实：

零人工代码介入：人类只设定目标（如”在昇腾 910B 上训练 1B 模型”），后续代码生成、测试、调优全在 AI 主导的闭环中完成
**H100 比 Megatron-LM 快 10%**：直接等效降低 10% 算力成本
**昇腾比 MindSpeed 加速 10%**：在国产芯片上也跑出比官方框架更优的速度
适配周期 3-5 天：在昇腾系列上仅用 3-5 天跑通（传统团队通常需要数周到数月）

L0-L4 数据治理：从”原料”到”精料”

数据是大模型的”食物”。面壁与清华、OpenBMB 联合推出 L0-L4 分级数据治理框架：

级别	含义	治理目标
L0	原始数据	源头粗筛
L1	标准化数据	去重、格式统一
L2	清洗数据	低质过滤
L3	高价值数据	Ultra-FineWeb-L3 关键数据集
L4	知识级数据	结构化知识

核心理念：「人类定义标准、AI 执行操作」。把数据从”粗放式清洗”升级为”精准分级”。

配合开源的 Ultra-FineWeb 数据集（超 1T tokens，中文部分开源最大），MiniCPM5-1B 的”食物”是高密度的精料，而非海量的低质原料。

自进化飞轮（核心机制）

强基座模型 │ ├─→ 用 ForgeTrain 生成更好的训练框架 │ └─→ 从海量语料筛选更好的 L3 训练数据新框架 + 新数据 │ └─→ 训练出下一代更强的模型 ──→ 回到强基座模型

模型越强 → 生成的框架与数据越优 → 下一代模型更强 → 循环加速。

这不是 PPT 上的”AI 制造 AI”概念，是已经跑通一整轮、产出 MiniCPM5-1B 工业级模型的工程范式。

后训练黑科技：RL + OPD = 更聪明 + 更节制

MiniCPM5-1B 的后训练分三步：SFT → RL → OPD。SFT 之外的两个环节最值得讲。

RL：两阶段长度调度

数学、代码、指令跟随三类任务上，两阶段长度调度：

阶段 1：宽松长度上限，鼓励探索推理路径
阶段 2：收紧长度上限，抑制冗余生成

避免了大模型常见的”啰嗦病”——一个简单问题给出一万字。

OPD：On-Policy Distillation

把多个 RL teacher 学到的能力蒸馏回同一个发布模型，而不是部署多个小模型：

在强化学习框架中使用反向 KL 散度作为优势估计值
师生 logits 做双边 top-k 采样后计算反向 KL
平衡监督信号准确性和训练效率

量化收益

指标	提升幅度	实际意义
平均分（数学/代码/指令）	↑16 分	质量大幅提升
回复触顶 max-tokens 比例	↓29 个百分点	更”节制”

端侧意义：更短的回复 = 更少的 token = 更省电 = 更省时。触顶比例下降 29%，直接转化为”用户等待时间减少 29%”。

部署生态：7 后端 + 5 微调 + 9 芯片

MiniCPM5-1B 的部署生态是同尺寸模型中最完整的。

7 大推理后端

后端	适用场景
Transformers	本地 Python 推理，CPU + GPU
vLLM	NVIDIA GPU 首选，OpenAI server
SGLang	推荐用于工具调用（内置 minicpm5 parser）
llama.cpp	GGUF，CPU/GPU 本地推理
Ollama	一行命令拉起本地模型
LM Studio	Mac 桌面应用
MLX	Apple Silicon 优化
ArcLight	面壁自研，纯 CPU 也能流畅跑

5 大微调框架

TRL、LLaMA-Factory、ms-swift、unsloth、xtuner——中文社区主流微调栈全支持。

9 种 AI 芯片（FlagOS Day-0 适配）

众智 FlagOS 社区通过 vLLM-plugin-FL + FlagGems 完成多芯片 Day-0 适配：

数据中心芯片：NVIDIA、华为昇腾、海光、昆仑芯、平头哥、摩尔线程、沐曦、天数智芯
端侧芯片：ARM 板端（int8 / bf16 / fp32 三种精度）——首次实现 ARM Day-0 适配

多款芯片的 TTFT（首 token 延迟）低于 NVIDIA H20 原生基线——国产芯片性能已可对标 NVIDIA。

Agent Skills（差异化亮点）

在 Cursor / Claude Code 中，一句话完成部署：

@minicpm5-deploy 用 vLLM 在 8000 端口起 openbmb/MiniCPM5-1B @minicpm5-finetune 用 unsloth + LoRA 微调 /data/my_chat.jsonl，输出到 ./out

Agent 读取顶层 Skill，根据目标后端、硬件、数据路径选择对应子 Skill 与 cookbook，自动执行命令并回报结果。

**这是 MiniCPM5-1B 区别于其他开源模型的”杀手锏”**——把”部署”这个最易劝退的环节，封装成了 Agent 原语。

商业与生态价值

1. 端侧 AI 应用的三大爆发点

场景	适用性	商业价值
Coding Agent	工具调用 + 代码双第一	本地 IDE 助手、自动化编程
手机 AI 助手	0.5GB + 离线可用	替代部分云端依赖，节省 API 成本
隐私敏感行业	本地推理	金融、医疗、政务的合规首选

2. 对国产 AI 芯片生态的推动

FlagOS 9 芯片 Day-0 适配 = 多芯片生态从”能用”到”好用”
ARM 端侧 Day-0 适配 = 打破”高性能推理 = GPU 专属”
MiniCPM5-1B 是「模型-系统-芯片」三层贯通的明星示范模型

3. 对面壁智能 / OpenBMB 的战略价值

国产开源端侧模型 第一梯队（与 Qwen、GLM、Kimi 并列）
首个落地”AI 写训练框架”的团队，全球范围领先
1T tokens 中文高质量语料 = 中文端侧模型的制高点

局限与诚实标注

我们不能只唱赞歌。几个必须诚实标注的局限：

AA-Index 17.9 是综合分，生产场景真实能力需要 PoC 验证；极复杂多步推理 / 长上下文理解仍是 1B 模型的软肋
ForgeTrain 的”行业首个” 是相对论断（英伟达 VibeTensor 自标”研究级”反向印证，但严格的”生产级第一”还需要更多第三方验证）
自进化飞轮的加速倍率未量化，需要观察 MiniCPM5-1.5B / 5-2B 等后续版本的迭代速度
端侧真机实测性能（如某型号手机的 token/s）公开数据较少，需要等待社区实测

写在最后：端侧 AI 的”真香定律”

过去端侧 AI 一直被一个等式困住：

模型小 = 能力弱

MiniCPM5-1B 打破了这一刻板印象——0.5GB 体积跑出 2B 能力，AI 自写训练框架让”小而强”可复现，9 芯片 + ARM Day-0 适配让”端到端全栈”成为现实。

它不只是一个模型，它是「AI 自进化飞轮」的首个工业级证明。

当 AI 接管编码、接管框架、接管数据治理时，人类工程师的真正价值将不再是”写代码”，而是”定义目标“——“我要在昇腾 910B 上训练 1B 模型”，剩下的交给 AI。

这才是 MiniCPM5-1B 真正让人兴奋的地方。

相关链接

Hugging Face 模型：https://huggingface.co/openbmb/MiniCPM5-1B[1]

GitHub 仓库：https://github.com/OpenBMB/MiniCPM[2]

ForgeTrain 框架：https://github.com/OpenBMB/ForgeTrain[3]

UltraData 平台：https://ultradata.openbmb.cn/[4]

ModelScope 镜像：https://modelscope.cn/models/OpenBMB/MiniCPM5-1B[5]

FlagOS 跨芯片生态：https://flagos.io/[6]

AA-Index 榜单：https://artificialanalysis.ai/[7]