XVERSE-13B - XVERSE-13B
模型详细情况和参数
XVERSE-13B
- 模型全称
- XVERSE-13B
- 模型简称
- XVERSE-13B
- 模型类型
- 基础大模型
- 发布日期
- 2023-08-06
- 预训练文件大小
- 27.52GB
- 是否支持中文（中文优化）
- 是
- 最高支持的上下文长度
- 8K
- 模型参数数量（亿）
- 130.0
- 模型代码开源协议
- Apache 2.0
- 预训练结果开源商用情况
- XVERSE-13B MODEL LICENSE - 免费商用授权
- 模型GitHub链接
- https://github.com/xverse-ai/XVERSE-13B
- 模型HuggingFace链接
- https://huggingface.co/xverse/XVERSE-13B
- 在线演示地址
- 暂无
- 官方博客论文
- 暂无
- 基础模型
- 无基础模型
- 发布机构
XVERSE-13B 简介
元象科技开源的大语言模型，免费商用授权，XVERSE-13B一个重要的特点是多语种的支持，官方说明它是在多样化的数据上对模型进行充分训练，包含中、英、俄、西等 40 多种语言，评测结果中对于中文和英文的支持非常优秀，英文的理解水平超过Baichuan-13B，与ChatGLM2-12B持平（MMLU），中文水平也是如此（C-Eval）评价。
评测结果如下：
| 模型数据集 | MMLU | C-Eval | AGIEval1 | GAOKAO-Bench1 | GAOKAO-English1 |
|---|---|---|---|---|---|
| Baichuan-13B | 51.62 | 53.63 | 40.5 | 45.9 | 56.9 |
| Llama-1-13B | 46.94 | 28.8 | 27.3 | 26.4 | 38.1 |
| Llama-2-13B | 54.84 | 35.6 | 33.4 | 35.4 | 60.6 |
| moss-moon-003-base (16B) | 24.7 | 33.13 | 26.8 | 28.5 | 34.7 |
| OpenLLaMA-13B | 42.4 | 24.7 | 24.0 | 25.6 | 33.3 |
| OPT-13B | 25.2 | 25.0 | 24.2 | 24.4 | 31.1 |
| Pythia-12B | 25.1 | 26.2 | 25.3 | 25.3 | 26.8 |
| Ziya-LLaMA-13B-Pretrain-v1 | 43.9 | 30.2 | 27.2 | 26.4 | 37.6 |
| XVERSE-13B | 55.1 | 54.7 | 41.4 | 53.9 | 66.5 |
欢迎大家关注DataLearner官方微信，接受最新的AI模型和技术推送
XVERSE-13B所属的领域
XVERSE-13B相关的任务
