DataLearner 标志
QW

QwQ-32B-Preview

推理大模型

QwQ-32B-Preview

发布时间: 2024-11-28更新于: 2024-11-28 12:53:18749
模型参数
320亿
上下文长度
32K
中文支持
支持
推理能力

QwQ-32B-Preview 是由 阿里巴巴 发布的 AI 模型,发布时间为 2024-11-28,定位为 推理大模型,参数规模约为 320亿,上下文长度为 32K,模型文件大小约 64GB,采用 Apache 2.0 许可,在 MATH-500 上取得 90.60 分。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

QwQ-32B-Preview

模型基本信息

推理过程
支持
思考模式
不支持思考模式
上下文长度
32K tokens
最大输出长度
暂无数据
模型类型
推理大模型
输入/输出模态
暂无数据
发布时间
2024-11-28
模型文件大小
64GB
MoE架构
总参数 / 激活参数
320亿 / 不涉及
知识截止
暂无数据
QwQ-32B-Preview

开源和体验地址

QwQ-32B-Preview

官方介绍与博客

DataLearnerAI博客
暂无介绍博客
QwQ-32B-Preview

API接口信息

接口速度
暂无数据
💡默认单位:$/100万 tokens。若计费单位不同,则以供应商公开的原始标注为准。
标准模式
类型适用条件输入输出
文本-¥0.0020/ 1K¥0.0060/ 1K
批量模式
类型适用条件输入输出
文本-¥0.0010/ 1K¥0.0030/ 1K
QwQ-32B-Preview

评测结果

QwQ-32B-Preview 当前已收录的代表性评测结果包括 MMLU Pro(89 / 126,得分 70.97)、AIME 2024(46 / 62,得分 50)、MATH-500(35 / 44,得分 90.60)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

综合评估

共 1 项评测
评测名称 / 模式
得分
排名/总数
70.97
89 / 126

数学推理

共 2 项评测
评测名称 / 模式
得分
排名/总数
90.60
35 / 44
50
46 / 62

和其他模型对比

暂时没有为该模型整理的相关对比页面。

想自定义其他组合?打开对比工具

QwQ-32B-Preview

发布机构

QwQ-32B-Preview

模型解读

QwQ-32B-Preview 是 Qwen 团队开发的一个实验性研究模型,旨在推进人工智能推理能力。作为一个32B(320亿参数)的预览版模型,它专注于提高复杂问题求解和分析能力。

性能指标

在多个学术和技术基准测试中,模型展现了显著的性能:

  1. GPQA(研究生级科学问题):65.2% 准确率
  2. AIME(数学评估):50.0% 准确率
  3. MATH-500(数学问题解决):90.6% 准确率
  4. LiveCodeBench(代码生成和问题解决):50.0% 准确率

关键技术特点

推理机制

  • 强调深度思考和多步骤推理
  • 通过自我质疑和反思提高问题解决能力
  • 模拟类似人类的逻辑推理过程

主要研究方向

  • 过程奖励模型
  • 大语言模型批评
  • 多步骤推理技术
  • 系统反馈强化学习

已知局限性

  1. 语言处理
  • 可能出现意外的语言混合和代码切换
  1. 推理过程
  • 存在进入递归推理循环的风险
  1. 性能边界
  • 在数学和编程领域表现出色
  • 常识推理和语言细微理解有待改进
  1. 安全性
  • 需要进一步完善安全保障机制

应用场景

基于其在数学、编程和科学问题解决方面的优势,QwQ-32B-Preview 模型适用于:

  • 复杂数学问题求解
  • 编程挑战和算法开发
  • 科学研究中的逻辑推理
  • 需要深度分析的技术性任务

该模型代表了人工智能推理能力研究的重要一步,展示了通过深度思考和自我反思提升机器学习模型能力的潜力。

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码