MiMo-7B

MiMo-7B 是小米 MiMo 团队于 2025 年 4 月 30 日开源的首个大语言模型系列，定位为“为推理而生”的小参数模型，以 MIT 许可在 Hugging Face 发布 Base、SFT、RL 与 RL-Zero 四个版本。

训练方法

• 预训练：从零训练，采用三阶段数据配比，总计约 25 万亿 token，并引入多 token 预测（MTP）作为额外训练目标，既提升效果也可加速推理。
• 强化学习：使用约 13 万道可由规则验证的数学与代码题，并针对难题引入按测试用例难度分级的代码奖励，缓解稀疏奖励问题。

官方成绩（MiMo-7B-RL，Pass@1）

• MATH-500：95.8
• AIME 2024：68.2；AIME 2025：55.4
• LiveCodeBench v5：57.8；v6：49.3

2025 年 5 月 30 日发布的 MiMo-7B-RL-0530 将 SFT 数据扩大到约 600 万条、RL 训练窗口扩展到 48K，AIME 2025 提升到 70.2、LiveCodeBench v6 提升到 52.2。