DataLearner 标志
QW

Qwen2.5-32B

基础大模型Qwen2.5

Qwen2.5-32B

发布时间: 2024-09-18更新于: 2024-09-21浏览量: 1,270
模型参数
320亿
上下文长度
128K
多语言支持
支持
推理能力
暂无数据

Qwen2.5-32B 是由 阿里巴巴 发布的 AI 模型,发布时间为 2024-09-18,定位为 基础大模型,参数规模约为 320亿,上下文长度为 128K,模型文件大小约 64GB,采用 Apache 2.0 许可,在 GSM8K 上取得 95.90 分。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

Qwen2.5-32B

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
128K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2024-09-18
模型文件大小
64GB
MoE架构
总参数 / 激活参数
320亿 / 不适用
知识截止
暂无数据
Qwen2.5-32B

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0- 免费商用授权
Qwen2.5-32B

官方介绍与博客

DataLearnerAI博客
暂无
Qwen2.5-32B

API接口信息

接口速度
暂无数据
💡默认单位:$/100万 tokens。若计费单位不同,则以供应商公开的原始标注为准。
标准模式
类型适用条件输入输出
文本-¥0.0020/ 1K¥0.0060/ 1K

表中「—」表示该模态在此方向不计费,或供应商未公开对应价格。

Qwen2.5-32B

评测结果

Qwen2.5-32B 当前已收录的代表性评测结果包括 GSM8K(5 / 70,得分 95.90)、MBPP(8 / 70,得分 84)、HumanEval(14 / 101,得分 88.40)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

综合评估

共 2 项评测
评测名称 / 模式
得分
排名/总数
MMLU
常规模式
83.30
47 / 124
MMLU Pro
常规模式
69.23
96 / 133

数学推理

共 2 项评测
评测名称 / 模式
得分
排名/总数
GSM8K
常规模式
95.90
5 / 70
MATH
常规模式
83.10
10 / 42

编程与软件工程

共 3 项评测
评测名称 / 模式
得分
排名/总数
HumanEval
常规模式
88.40
14 / 101
MBPP
常规模式
84
8 / 70
LiveCodeBench
常规模式
51.20
96 / 127
Qwen2.5-32B

发布机构

Qwen2.5-32B

模型解读

阿里巴巴开源的千问大模型,是2.5代的320亿参数规模大语言模型。以Apache2.0开源协议开源,意味着可以完全免费商用,协议非常友好。


Qwen2.5-32B开源了多个不同的版本,包括基座版本和指令微调的版本:

Qwen2.5-32B版本版本简介HuggingFace开源地址
Qwen2.5-32B320亿参数的基座模型 https://huggingface.co/Qwen/Qwen2.5-32B 
Qwen2.5-32B-Instruct指令微调版本 https://huggingface.co/Qwen/Qwen2.5-32B-Instruct 

Qwen2.5-32B-Instruct-AWQ
AWQ的4bit量化版本的指令微调Qwen2.5 https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-AWQ 
Qwen2.5-32B-Instruct-GPTQGPTQ量化版本的指令微调Qwen2.5,包含不同的量化水平Int8:  https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GPTQ-Int8 
Int4: https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4
Qwen2.5-32B-Instruct-GGUFGGUF量化格式https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GGUF


DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码