DataLearner 标志
QW

Qwen2.5-32B

基础大模型Qwen2.5

Qwen2.5-32B

发布时间: 2024-09-18更新于: 2024-09-21 11:03:001,240
模型参数
320亿
上下文长度
128K
中文支持
支持
推理能力

Qwen2.5-32B 是由 阿里巴巴 发布的 AI 模型,发布时间为 2024-09-18,定位为 基础大模型,参数规模约为 320亿,上下文长度为 128K,模型文件大小约 64GB,采用 Apache 2.0 许可,在 GSM8K 上取得 95.90 分。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

Qwen2.5-32B

模型基本信息

推理过程
不支持
思考模式
不支持思考模式
上下文长度
128K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2024-09-18
模型文件大小
64GB
MoE架构
总参数 / 激活参数
320亿 / 不涉及
知识截止
暂无数据
Qwen2.5-32B

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0- 免费商用授权
Qwen2.5-32B

官方介绍与博客

DataLearnerAI博客
暂无介绍博客
Qwen2.5-32B

API接口信息

接口速度
暂无数据
💡默认单位:$/100万 tokens。若计费单位不同,则以供应商公开的原始标注为准。
标准模式
类型适用条件输入输出
文本-¥0.0020/ 1K¥0.0060/ 1K
Qwen2.5-32B

评测结果

Qwen2.5-32B 当前已收录的代表性评测结果包括 GSM8K(5 / 26,得分 95.90)、MATH(10 / 42,得分 83.10)、MBPP(8 / 28,得分 84)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

综合评估

共 2 项评测
评测名称 / 模式
得分
排名/总数
83.30
45 / 65
69.23
91 / 126

数学推理

共 2 项评测
评测名称 / 模式
得分
排名/总数
95.90
5 / 26
83.10
10 / 42

编程与软件工程

共 3 项评测
评测名称 / 模式
得分
排名/总数
88.40
14 / 39
84
8 / 28
51.20
90 / 120

和其他模型对比

暂时没有为该模型整理的相关对比页面。

想自定义其他组合?打开对比工具

Qwen2.5-32B

发布机构

Qwen2.5-32B

模型解读

阿里巴巴开源的千问大模型,是2.5代的320亿参数规模大语言模型。以Apache2.0开源协议开源,意味着可以完全免费商用,协议非常友好。


Qwen2.5-32B开源了多个不同的版本,包括基座版本和指令微调的版本:

Qwen2.5-32B版本版本简介HuggingFace开源地址
Qwen2.5-32B320亿参数的基座模型 https://huggingface.co/Qwen/Qwen2.5-32B 
Qwen2.5-32B-Instruct指令微调版本 https://huggingface.co/Qwen/Qwen2.5-32B-Instruct 

Qwen2.5-32B-Instruct-AWQ
AWQ的4bit量化版本的指令微调Qwen2.5 https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-AWQ 
Qwen2.5-32B-Instruct-GPTQGPTQ量化版本的指令微调Qwen2.5,包含不同的量化水平Int8:  https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GPTQ-Int8 
Int4: https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4
Qwen2.5-32B-Instruct-GGUFGGUF量化格式https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GGUF


DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码