DataLearner 标志

Qwen2.5-72B

基础大模型QwenQwen2.5
发布时间: 2024-09-18更新于: 2024-09-21浏览量: 1,798
API 价格
¥0.004 / ¥0.012
输入 / 输出 · 每千 tokens
查看全部价格
上下文长度
128K
最佳榜单名次
第 5 / 67
GSM8K 第 14 / 68
查看全部评测
是否开源
开源
Qwen License
参数 727亿
查看开源信息

Qwen2.5-72B is the largest dense model in Alibaba's Qwen2.5 family, released on September 18, 2024 after pre-training on up to 18 trillion tokens. It outperformed Llama 3 70B on many benchmarks at release, supports a 128K-token context and was released with base, instruct and quantised versions under the Qwen License.

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

Qwen2.5-72B

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
128K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
文本 → 文本
发布时间
2024-09-18
模型文件大小
144GB
MoE架构
否
总参数 / 激活参数
727亿 / 不适用
知识截止
暂无数据
Qwen2.5-72B

开源和体验地址

代码开源状态
预训练权重开源
Qwen License - 免费商用授权
在线体验
暂无
Qwen2.5-72B

官方介绍与博客

DataLearnerAI博客
暂无
Qwen2.5-72B

API接口信息

接口速度
暂无数据
💡默认单位:$/100万 tokens。若计费单位不同,则以供应商公开的原始标注为准。
标准模式
类型适用条件输入输出
文本-¥0.0040/ 1K tokens¥0.012/ 1K tokens

表中「—」表示该模态在此方向不计费,或供应商未公开对应价格。

Qwen2.5-72B

评测结果

Qwen2.5-72B 当前已收录的代表性评测结果包括 MBPP(5 / 67,得分 84.70)、GSM8K(14 / 68,得分 91.50)、MMLU(29 / 117,得分 86.10)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

综合知识考试

共 2 项评测
评测名称 / 模式
得分
排名/总数
MMLU
常规模式
86.10
29 / 117
MMLU-Pro
常规模式
58.10
126 / 176

数学

共 2 项评测
评测名称 / 模式
得分
排名/总数
GSM8K
常规模式
91.50
14 / 68
MATH
常规模式
62.10
29 / 42

程序生成与编辑

共 2 项评测
评测名称 / 模式
得分
排名/总数
MBPP
常规模式
84.70
5 / 67
HumanEval
常规模式
59.10
42 / 101

事实可靠性与幻觉

共 1 项评测
评测名称 / 模式
得分
排名/总数
TruthfulQA
常规模式
60.40
1 / 1

综合推理

共 1 项评测
评测名称 / 模式
得分
排名/总数
BBH
常规模式
86.30
11 / 19

科学知识与推理

共 1 项评测
评测名称 / 模式
得分
排名/总数
GPQA Diamond
常规模式
45.90
237 / 254

跨能力聚合指数

共 1 项评测
评测名称 / 模式
得分
排名/总数
ECI
unknown
129
119 / 168
Qwen2.5-72B

发布机构

Qwen2.5-72B

模型解读

阿里开源的Qwen2.5系列模型中参数量最大的一个版本,720亿参数规模。其评测效果超过了MetaAI开源的同等参数规模的Llama-3-70B。产品月活低于1亿的商业应用是免费的。

720亿参数规模的Qwen2.5包含了多个版本,除了基座版本外,官方也开源了量化版本以及不同的指令微调版本,其结果如下:

Qwen2.5-72B版本版本简介HuggingFace开源地址
Qwen2.5-72B720亿参数规模的基座版本 https://huggingface.co/Qwen/Qwen2.5-72B 
Qwen2.5-72B-Instruct指令微调版本 https://huggingface.co/Qwen/Qwen2.5-72B-Instruct 
Qwen2.5-72B-Instruct-AWQAWQ的4bit量化版本的指令微调Qwen2.5 https://huggingface.co/Qwen/Qwen2.5-72B-Instruct-AWQ 
Qwen2.5-72B-Instruct-GPTQGPTQ量化版本的指令微调Qwen2.5,包含不同的量化水平Int8: https://huggingface.co/Qwen/Qwen2.5-72B-Instruct-GPTQ-Int8
Int4: https://huggingface.co/Qwen/Qwen2.5-72B-Instruct-GPTQ-Int4
Qwen2.5-72B-Instruct-GGUFGGUF量化格式版本 https://huggingface.co/Qwen/Qwen2.5-72B-Instruct-GGUF 

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码