Qw

Qwen2.5-7B

基础大模型

Qwen2.5-7B

发布时间: 2024-09-18

873
模型参数(Parameters)
70.0
最高上下文长度(Context Length)
128K
是否支持中文
支持
推理能力(Reasoning)

模型基本信息

是否支持推理过程

不支持

最高上下文输入长度

128K tokens

最长输出结果
暂无数据
模型类型

基础大模型

发布时间

2024-09-18

模型预文件大小

14GB

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0 - 免费商用授权
GitHub 源码
Hugging Face
在线体验

官方介绍与博客

官方论文
DataLearnerAI博客
暂无介绍博客

API接口信息

接口速度(满分5分)
暂无数据
接口价格
暂无公开的 API 定价信息。

Qwen2.5-7B模型在各大评测榜单的评分

综合评估

共 3 项评测
MMLU normal
74.20
50 / 59
MMLU Pro normal
45
97 / 105
GPQA Diamond normal
36.40
121 / 133

数学推理

共 2 项评测
GSM8K normal
85.40
14 / 24
MATH normal
49.80
34 / 41

编程与软件工程

共 2 项评测
MBPP normal
74.90
14 / 27
HumanEval normal
57.90
29 / 36

常识推理

共 1 项评测
ARC normal
63.70
2 / 4

发布机构

Qwen2.5-7B模型解读

        

阿里巴巴开源的千问大模型,是2.5代的70亿参数规模大语言模型。以Apache2.0开源协议开源,意味着可以完全免费商用,协议非常友好。


Qwen2.5-7B开源了多个不同的版本,包括基座版本和指令微调的版本:

Qwen2.5-7B版本版本简介HuggingFace开源地址
Qwen2.5-7B320亿参数的基座模型 https://huggingface.co/Qwen/Qwen2.5-7B 
Qwen2.5-7B-Instruct指令微调版本 https://huggingface.co/Qwen/Qwen2.5-7B-Instruct 

Qwen2.5-7B-Instruct-AWQ
AWQ的4bit量化版本的指令微调Qwen2.5 https://huggingface.co/Qwen/Qwen2.5-7B-Instruct-AWQ 
Qwen2.5-7B-Instruct-GPTQGPTQ量化版本的指令微调Qwen2.5,包含不同的量化水平Int8:  https://huggingface.co/Qwen/Qwen2.5-7B-Instruct-GPTQ-Int8 
Int4: https://huggingface.co/Qwen/Qwen2.5-7B-Instruct-GPTQ-Int4
Qwen2.5-7B-Instruct-GGUFGGUF量化格式https://huggingface.co/Qwen/Qwen2.5-7B-Instruct-GGUF


关注DataLearnerAI公众号

关注DataLearnerAI微信公众号,接受最新大模型资讯

DataLearnerAI WeChat