DataLearner 标志
QW

Qwen2.5-72B

基础大模型Qwen2.5

Qwen2.5-72B

发布时间: 2024-09-18更新于: 2024-09-21浏览量: 1,744
模型参数
727亿
上下文长度
128K
多语言支持
支持
推理能力
暂无数据

Qwen2.5-72B 是由 阿里巴巴 发布的 AI 模型,发布时间为 2024-09-18,定位为 基础大模型,参数规模约为 727亿,上下文长度为 128K,模型文件大小约 144GB,采用 Qwen License 许可,在 GSM8K 上取得 91.50 分。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

Qwen2.5-72B

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
128K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2024-09-18
模型文件大小
144GB
MoE架构
总参数 / 激活参数
727亿 / 不适用
知识截止
暂无数据
Qwen2.5-72B

开源和体验地址

代码开源状态
预训练权重开源
Qwen License- 免费商用授权
在线体验
暂无
Qwen2.5-72B

官方介绍与博客

DataLearnerAI博客
暂无
Qwen2.5-72B

API接口信息

接口速度
暂无数据
💡默认单位:$/100万 tokens。若计费单位不同,则以供应商公开的原始标注为准。
标准模式
类型适用条件输入输出
文本-¥0.0040/ 1K¥0.012/ 1K

表中「—」表示该模态在此方向不计费,或供应商未公开对应价格。

Qwen2.5-72B

评测结果

Qwen2.5-72B 当前已收录的代表性评测结果包括 MBPP(7 / 70,得分 84.70)、GSM8K(13 / 70,得分 91.50)、TruthfulQA(1 / 4,得分 60.40)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

综合评估

共 3 项评测
评测名称 / 模式
得分
排名/总数
BBH
常规模式
86.30
11 / 21
MMLU
常规模式
86.10
34 / 124
MMLU Pro
常规模式
58.10
114 / 133

数学推理

共 2 项评测
评测名称 / 模式
得分
排名/总数
GSM8K
常规模式
91.50
13 / 70
MATH
常规模式
62.10
29 / 42

编程与软件工程

共 2 项评测
评测名称 / 模式
得分
排名/总数
MBPP
常规模式
84.70
7 / 70
HumanEval
常规模式
59.10
42 / 101

真实性评估

共 1 项评测
评测名称 / 模式
得分
排名/总数
TruthfulQA
常规模式
60.40
1 / 4

科学与综合推理

共 1 项评测
评测名称 / 模式
得分
排名/总数
GPQA Diamond
常规模式
45.90
250 / 270
Qwen2.5-72B

发布机构

Qwen2.5-72B

模型解读

阿里开源的Qwen2.5系列模型中参数量最大的一个版本,720亿参数规模。其评测效果超过了MetaAI开源的同等参数规模的Llama-3-70B。产品月活低于1亿的商业应用是免费的。


720亿参数规模的Qwen2.5包含了多个版本,除了基座版本外,官方也开源了量化版本以及不同的指令微调版本,其结果如下:


Qwen2.5-72B版本版本简介HuggingFace开源地址
Qwen2.5-72B720亿参数规模的基座版本 https://huggingface.co/Qwen/Qwen2.5-72B 
Qwen2.5-72B-Instruct指令微调版本 https://huggingface.co/Qwen/Qwen2.5-72B-Instruct 

Qwen2.5-72B-Instruct-AWQ
AWQ的4bit量化版本的指令微调Qwen2.5 https://huggingface.co/Qwen/Qwen2.5-72B-Instruct-AWQ 
Qwen2.5-72B-Instruct-GPTQGPTQ量化版本的指令微调Qwen2.5,包含不同的量化水平Int8: https://huggingface.co/Qwen/Qwen2.5-72B-Instruct-GPTQ-Int8
Int4: https://huggingface.co/Qwen/Qwen2.5-72B-Instruct-GPTQ-Int4
Qwen2.5-72B-Instruct-GGUFGGUF量化格式版本 https://huggingface.co/Qwen/Qwen2.5-72B-Instruct-GGUF 


DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码