QW
发布时间: 2024-09-18更新于: 2024-09-21浏览量: 1,453
上下文长度
32K
Qwen2.5-3B 是阿里巴巴 2024 年 9 月开源的 Qwen2.5 系列 30 亿参数基础模型,32K 上下文,采用通义千问研究许可(非 Apache),适合在移动端和边缘设备上运行,GSM8K 为 79.1、MMLU 为 65.6。
数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法
Qwen2.5-3B
模型基本信息
推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
32K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
文本 → 文本
发布时间
2024-09-18
模型文件大小
6GB
MoE架构
否
总参数 / 激活参数
30亿 / 不适用
知识截止
暂无数据
Qwen2.5-3B
开源和体验地址
代码开源状态
预训练权重开源
GitHub 源码
Hugging Face
在线体验
暂无
Qwen2.5-3B
官方介绍与博客
DataLearnerAI博客
暂无
Qwen2.5-3B
API接口信息
接口速度
暂无数据
💡默认单位:$/100万 tokens。若计费单位不同,则以供应商公开的原始标注为准。
标准模式
| 类型 | 适用条件 | 输入 | 输出 |
|---|---|---|---|
| 文本 | - | ¥0.0003/ 1K tokens | ¥0.0009/ 1K tokens |
表中「—」表示该模态在此方向不计费,或供应商未公开对应价格。
Qwen2.5-3B
评测结果
Qwen2.5-3B 当前已收录的代表性评测结果包括 GSM8K(25 / 68,得分 79.10)、MBPP(28 / 67,得分 57.10)、HumanEval(58 / 101,得分 42.10)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。
Qwen2.5-3B
发布机构
阿里巴巴
查看发布机构详情 Qwen2.5-3B
模型解读
Qwen2.5-3B 是阿里巴巴于 2024 年 9 月发布的 Qwen2.5 系列中 30 亿参数的基础模型。Qwen2.5 系列从 0.5B 到 72B 共 7 个尺寸,预训练数据扩大到约 18 万亿 token。
特点
- 参数:30 亿,稠密。
- 上下文:32K。
- 许可:与系列中多数型号的 Apache 2.0 不同,3B 版本采用通义千问研究许可(Qwen Research License),商用前需确认条款。
代表成绩
- GSM8K:79.1
- MMLU:65.6
- MBPP:57.1
- MATH:42.6
3B 被认为是当时可以在移动端流畅运行的较大尺寸,常用于端侧部署和微调实验。
DataLearner 官方微信
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
