DE
发布时间: 2025-01-20更新于: 2025-02-27浏览量: 1,404
DeepSeek-R1-Distill-Qwen-7B 是 DeepSeek 于 2025 年 1 月随 R1 一起开源的蒸馏模型,用 R1 生成的推理数据微调 Qwen2.5-Math-7B 得到,MIT 许可,MATH-500 为 91.4、AIME 2024 为 53.3。
数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法
DeepSeek-R1-Distill-Qwen-7B
模型基本信息
推理过程
支持
思考模式
不支持思考模式
上下文长度
128K tokens
最大输出长度
暂无数据
模型类型
推理大模型
输入/输出模态
暂无数据
发布时间
2025-01-20
模型文件大小
14GB
MoE架构
否
总参数 / 激活参数
70亿 / 不适用
知识截止
暂无数据
DeepSeek-R1-Distill-Qwen-7B
开源和体验地址
DeepSeek-R1-Distill-Qwen-7B
官方介绍与博客
DataLearnerAI博客
暂无
DeepSeek-R1-Distill-Qwen-7B
API接口信息
接口速度
暂无数据
暂无公开的 API 定价信息。
DeepSeek-R1-Distill-Qwen-7B
评测结果
DeepSeek-R1-Distill-Qwen-7B 当前已收录的代表性评测结果包括 AIME 2024(43 / 60,得分 53.30)、MATH-500(35 / 48,得分 91.40)、GPQA Diamond(226 / 250,得分 49.50)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。
DeepSeek-R1-Distill-Qwen-7B
发布机构
DeepSeek-AI
查看发布机构详情 DeepSeek-R1-Distill-Qwen-7B
模型解读
DeepSeek-R1-Distill-Qwen-7B 是 DeepSeek 于 2025 年 1 月 20 日随 DeepSeek-R1 一同开源的蒸馏模型之一。DeepSeek 用 R1 生成的约 80 万条推理与通用数据,对开源模型做监督微调,从而把 R1 的推理能力迁移到小模型上。
特点
- 基座:Qwen2.5-Math-7B。
- 参数:70 亿,稠密。
- 许可:MIT(基座模型的许可条款同样适用)。
代表成绩
- MATH-500:91.4
- AIME 2024:53.3
- GPQA Diamond:49.5
同批开源的蒸馏模型还包括 1.5B、14B、32B(基于 Qwen2.5)以及 8B、70B(基于 Llama)。7B 版本适合在单张消费级显卡上体验长链推理。
DataLearner 官方微信
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
