DataLearner 标志

Moonlight-16B-A3B-Instruct

聊天大模型MoonlightMoonlight 16B
发布时间: 2025-02-23更新于: 2025-02-23浏览量: 908
上下文长度
8K
最佳榜单名次
第 21 / 67
GSM8K 第 27 / 68
查看全部评测
是否开源
开源
MIT License
参数 160亿
查看开源信息

Moonlight-16B-A3B-Instruct is an open mixture-of-experts model from Moonshot AI, released on February 23, 2025, with 16B total and 3B active parameters. Trained on 5.7 trillion tokens with the Muon optimizer, it showed that Muon scales to large models with better compute efficiency than AdamW. It is released under the MIT License.

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

Moonlight-16B-A3B-Instruct

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
8K tokens
最大输出长度
暂无数据
模型类型
聊天大模型
输入/输出模态
文本 → 文本
发布时间
2025-02-23
模型文件大小
32GB
MoE架构
否
总参数 / 激活参数
160亿 / 不适用
知识截止
暂无数据
Moonlight-16B-A3B-Instruct

开源和体验地址

代码开源状态
预训练权重开源
MIT License - 免费商用授权
在线体验
暂无
Moonlight-16B-A3B-Instruct

官方介绍与博客

Moonlight-16B-A3B-Instruct

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
Moonlight-16B-A3B-Instruct

评测结果

Moonlight-16B-A3B-Instruct 当前已收录的代表性评测结果包括 MBPP(21 / 67,得分 63.80)、GSM8K(27 / 68,得分 77.40)、HumanEval(54 / 101,得分 48.10)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

综合知识考试

共 2 项评测
评测名称 / 模式
得分
排名/总数
MMLU
常规模式
70
66 / 117
MMLU-Pro
常规模式
42.40
153 / 176

数学

共 2 项评测
评测名称 / 模式
得分
排名/总数
GSM8K
常规模式
77.40
27 / 68
MATH
常规模式
45.30
36 / 42

程序生成与编辑

共 2 项评测
评测名称 / 模式
得分
排名/总数
MBPP
常规模式
63.80
21 / 67
HumanEval
常规模式
48.10
54 / 101

综合推理

共 1 项评测
评测名称 / 模式
得分
排名/总数
BBH
常规模式
65.20
15 / 19
Moonlight-16B-A3B-Instruct

发布机构

Moonlight-16B-A3B-Instruct

模型解读

月之暗面开源的一个160以参数的混合专家大模型,每次推理参数共30亿。效果超过同类型的大模型。

本版本是其指令优化后的版本。

关于Moonlight-16B-A3B模型的详细介绍参考DataLearnerAI的官方博客: https://www.datalearner.com/blog/1051740316091143

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码