DataLearner 标志

DeepSeek-R1-Distill-Qwen-7B

推理大模型DeepSeek RDeepSeek R1
发布时间: 2025-01-20更新于: 2025-02-27浏览量: 1,404
上下文长度
128K
最佳榜单名次
第 43 / 60
MATH-500 第 35 / 48
查看全部评测
是否开源
开源
MIT License
参数 70亿
查看开源信息

DeepSeek-R1-Distill-Qwen-7B 是 DeepSeek 于 2025 年 1 月随 R1 一起开源的蒸馏模型,用 R1 生成的推理数据微调 Qwen2.5-Math-7B 得到,MIT 许可,MATH-500 为 91.4、AIME 2024 为 53.3。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

DeepSeek-R1-Distill-Qwen-7B

模型基本信息

推理过程
支持
思考模式
不支持思考模式
上下文长度
128K tokens
最大输出长度
暂无数据
模型类型
推理大模型
输入/输出模态
暂无数据
发布时间
2025-01-20
模型文件大小
14GB
MoE架构
否
总参数 / 激活参数
70亿 / 不适用
知识截止
暂无数据
DeepSeek-R1-Distill-Qwen-7B

开源和体验地址

代码开源状态
预训练权重开源
MIT License - 免费商用授权
GitHub 源码
暂无
在线体验
暂无
DeepSeek-R1-Distill-Qwen-7B

官方介绍与博客

DataLearnerAI博客
暂无
DeepSeek-R1-Distill-Qwen-7B

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
DeepSeek-R1-Distill-Qwen-7B

评测结果

DeepSeek-R1-Distill-Qwen-7B 当前已收录的代表性评测结果包括 AIME 2024(43 / 60,得分 53.30)、MATH-500(35 / 48,得分 91.40)、GPQA Diamond(226 / 250,得分 49.50)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

科学知识与推理

共 1 项评测
评测名称 / 模式
得分
排名/总数
GPQA Diamond
常规模式
49.50
226 / 250

数学

共 2 项评测
评测名称 / 模式
得分
排名/总数
MATH-500
常规模式
91.40
35 / 48
AIME 2024
常规模式
53.30
43 / 60
DeepSeek-R1-Distill-Qwen-7B

发布机构

DeepSeek-R1-Distill-Qwen-7B

模型解读

DeepSeek-R1-Distill-Qwen-7B 是 DeepSeek 于 2025 年 1 月 20 日随 DeepSeek-R1 一同开源的蒸馏模型之一。DeepSeek 用 R1 生成的约 80 万条推理与通用数据,对开源模型做监督微调,从而把 R1 的推理能力迁移到小模型上。

特点

  • 基座:Qwen2.5-Math-7B。
  • 参数:70 亿,稠密。
  • 许可:MIT(基座模型的许可条款同样适用)。

代表成绩

  • MATH-500:91.4
  • AIME 2024:53.3
  • GPQA Diamond:49.5

同批开源的蒸馏模型还包括 1.5B、14B、32B(基于 Qwen2.5)以及 8B、70B(基于 Llama)。7B 版本适合在单张消费级显卡上体验长链推理。

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码