Moonlight-16B-A3B-Instruct is an open mixture-of-experts model from Moonshot AI, released on February 23, 2025, with 16B total and 3B active parameters. Trained on 5.7 trillion tokens with the Muon optimizer, it showed that Muon scales to large models with better compute efficiency than AdamW. It is released under the MIT License.
数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法
模型基本信息
开源和体验地址
官方介绍与博客
API接口信息
评测结果
Moonlight-16B-A3B-Instruct 当前已收录的代表性评测结果包括 MBPP(21 / 67,得分 63.80)、GSM8K(27 / 68,得分 77.40)、HumanEval(54 / 101,得分 48.10)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。
发布机构
模型解读
月之暗面开源的一个160以参数的混合专家大模型,每次推理参数共30亿。效果超过同类型的大模型。
本版本是其指令优化后的版本。
关于Moonlight-16B-A3B模型的详细介绍参考DataLearnerAI的官方博客: https://www.datalearner.com/blog/1051740316091143
DataLearner 官方微信
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
