Skywork-R1V3-38B

Skywork-R1V3-38B 是 Skywork-R1V 系列中最新且功能强大的开源多模态推理模型。该模型基于 InternVL-38B 构建，在多模态和跨学科智能方面取得了显著的进步。通过在后训练阶段采用强化学习 (RL) 算法，R1V3 显著增强了其推理能力，并在多项多模态推理基准测试中达到了开源领域的最新（SOTA）性能。

技术亮点

Skywork-R1V3 是一个先进的开源视觉语言模型（VLM），其核心创新包括：

• 精细化的后训练强化学习 (RL)： 模型通过细粒度的冷启动微调，为强化学习（RL）打下了坚实基础，而非依赖于推理预训练。这一方法极大地提升了模型的推理能力。
• 关键的连接器模块： 研究发现，连接器模块在实现稳健的跨模态对齐以支持强大的多模态推理方面起着关键作用。此外，“仅连接器微调”可以在 RL 训练后进一步提升模型性能。
• 关键推理 Token 的熵： 这一独特指标能够有效衡量推理能力，并在 RL 训练过程中指导检查点（checkpoint）的选择。

这些创新实现了广泛的推理泛化，使该模型的强化学习方法能够成功地将数学推理能力扩展到不同的学科领域。此外，本研究还深入探讨了强化学习相关的特定探索，例如课程学习和学习率策略，并对多模态推理进行了更广泛的讨论。更多详细信息，请参阅 [📖 R1V3 Report]。

评估结果

• MMMU: 76.0
• EMMA-Mini (CoT): 40.3
• MMK12: 78.5
• 物理推理:
• 逻辑推理:
• 数学基准: