QW
发布时间: 2024-06-07更新于: 2024-06-09浏览量: 779
Qwen2-1.5B is a small model in Alibaba's Qwen2 family, released on June 7, 2024 under Apache 2.0. It led small open models such as Phi-2 and Gemma 2B on many benchmarks at release and supports a 32K-token context.
数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法
Qwen2-1.5B
模型基本信息
推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
32K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2024-06-07
模型文件大小
3.09GB
MoE架构
否
总参数 / 激活参数
15亿 / 不适用
知识截止
暂无数据
Qwen2-1.5B
开源和体验地址
Qwen2-1.5B
官方介绍与博客
官方论文
Qwen2-1.5B
API接口信息
接口速度
暂无数据
暂无公开的 API 定价信息。
Qwen2-1.5B
评测结果
Qwen2-1.5B
发布机构
阿里巴巴
查看发布机构详情 Qwen2-1.5B
模型解读
阿里巴巴开源的15亿参数规模的大语言模型，是小规模参数语言模型中表现最强的一个。与其它小规模参数模型相比，该模型在不同评测结果上都取得了非常好的结果。下图是该模型与其它模型的对比结果：
| Datasets | Phi-2 | Gemma-2B | MiniCPM | Qwen1.5-1.8B | Qwen2-0.5B | Qwen2-1.5B |
|---|---|---|---|---|---|---|
| #Non-Emb Params | 2.5B | 2.0B | 2.4B | 1.3B | 0.35B | 1.3B |
| MMLU | 52.7 | 42.3 | 53.5 | 46.8 | 45.4 | 56.5 |
| MMLU-Pro | - | 15.9 | - | - | 14.7 | 21.8 |
| Theorem QA | - | - | - | - | 8.9 | 15.0 |
| HumanEval | 47.6 | 22.0 | 50.0 | 20.1 | 22.0 | 31.1 |
| MBPP | 55.0 | 29.2 | 47.3 | 18.0 | 22.0 | 37.4 |
| GSM8K | 57.2 | 17.7 | 53.8 | 38.4 | 36.5 | 58.5 |
| MATH | 3.5 | 11.8 | 10.2 | 10.1 | 10.7 | 21.7 |
| BBH | 43.4 | 35.2 | 36.9 | 24.2 | 28.4 | 37.2 |
| HellaSwag | 73.1 | 71.4 | 68.3 | 61.4 | 49.3 | 66.6 |
| Winogrande | 74.4 | 66.8 | - | 60.3 | 56.8 | 66.2 |
| ARC-C | 61.1 | 48.5 | - | 37.9 | 31.5 | 43.9 |
| TruthfulQA | 44.5 | 33.1 | - | 39.4 | 39.7 | 45.9 |
| C-Eval | 23.4 | 28.0 | 51.1 | 59.7 | 58.2 | 70.6 |
| CMMLU | 24.2 | - | 51.1 | 57.8 | 55.1 | 70.3 |
DataLearner 官方微信
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
