DataLearner 标志

Qwen2.5-3B

基础大模型QwenQwen2.5
发布时间: 2024-09-18更新于: 2024-09-21浏览量: 1,453
API 价格
¥0.0003 / ¥0.0009
输入 / 输出 · 每千 tokens
查看全部价格
上下文长度
32K
最佳榜单名次
第 25 / 68
MBPP 第 28 / 67
查看全部评测
是否开源
开源
Tongyi Qianwen RESEARCH LICENSE AGREEMENT
参数 30亿
前往 Hugging Face 权重

Qwen2.5-3B 是阿里巴巴 2024 年 9 月开源的 Qwen2.5 系列 30 亿参数基础模型,32K 上下文,采用通义千问研究许可(非 Apache),适合在移动端和边缘设备上运行,GSM8K 为 79.1、MMLU 为 65.6。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

Qwen2.5-3B

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
32K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
文本 → 文本
发布时间
2024-09-18
模型文件大小
6GB
MoE架构
否
总参数 / 激活参数
30亿 / 不适用
知识截止
暂无数据
Qwen2.5-3B

开源和体验地址

代码开源状态
在线体验
暂无
Qwen2.5-3B

官方介绍与博客

DataLearnerAI博客
暂无
Qwen2.5-3B

API接口信息

接口速度
暂无数据
💡默认单位:$/100万 tokens。若计费单位不同,则以供应商公开的原始标注为准。
标准模式
类型适用条件输入输出
文本-¥0.0003/ 1K tokens¥0.0009/ 1K tokens

表中「—」表示该模态在此方向不计费,或供应商未公开对应价格。

Qwen2.5-3B

评测结果

Qwen2.5-3B 当前已收录的代表性评测结果包括 GSM8K(25 / 68,得分 79.10)、MBPP(28 / 67,得分 57.10)、HumanEval(58 / 101,得分 42.10)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

综合知识考试

共 2 项评测
评测名称 / 模式
得分
排名/总数
MMLU
常规模式
65.60
76 / 116
MMLU-Pro
常规模式
34.60
154 / 168

数学

共 2 项评测
评测名称 / 模式
得分
排名/总数
GSM8K
常规模式
79.10
25 / 68
MATH
常规模式
42.60
37 / 42

程序生成与编辑

共 2 项评测
评测名称 / 模式
得分
排名/总数
MBPP
常规模式
57.10
28 / 67
HumanEval
常规模式
42.10
58 / 101

综合推理

共 1 项评测
评测名称 / 模式
得分
排名/总数
BBH
常规模式
56.30
17 / 19

科学知识与推理

共 1 项评测
评测名称 / 模式
得分
排名/总数
GPQA Diamond
常规模式
24.30
252 / 252
Qwen2.5-3B

发布机构

Qwen2.5-3B

模型解读

Qwen2.5-3B 是阿里巴巴于 2024 年 9 月发布的 Qwen2.5 系列中 30 亿参数的基础模型。Qwen2.5 系列从 0.5B 到 72B 共 7 个尺寸,预训练数据扩大到约 18 万亿 token。

特点

  • 参数:30 亿,稠密。
  • 上下文:32K。
  • 许可:与系列中多数型号的 Apache 2.0 不同,3B 版本采用通义千问研究许可(Qwen Research License),商用前需确认条款。

代表成绩

  • GSM8K:79.1
  • MMLU:65.6
  • MBPP:57.1
  • MATH:42.6

3B 被认为是当时可以在移动端流畅运行的较大尺寸,常用于端侧部署和微调实验。

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码