加载中...
XVERSE-13B是元象开源的一个大语言模型，发布一周后就登顶HuggingFace流行趋势榜。该模型最大的特点是支持多语言，其中文和英文水平都十分优异，在评测结果上超过了Baichuan-13B，与ChatGLM2-12B差不多，不过ChatGLM2-12B是收费模型，而XVERSE-13B是免费商用授权！
这是一家成立于2021年的初创企业，由腾讯公司前副总裁姚星创办。2022年3月A/A+轮融资1.2亿美元。
此前，该公司的产品和服务与元宇宙关系密切，包括一些3D互动技术等。本次发布的大语言模型是在HuggingFace上也吸引了很多人的下载使用。
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
XVERSE-13B是一个支持多语言的大语言模型。该模型在1.4万亿tokens数据集上训练得到。主要的模型信息如下：
官方宣称，该模型在中英文测评上的效果都很好。这里我们也可以看看：
注意，这里的ChatGLM2和Qwen是我们加入的，官方的列表没有提供，但是可以看到，其实这两个模型在MMLU上的得分是很不错的，比XVERSE-13B要好。
下载地址和官方的代码地址参考XVERSE-13B的模型信息卡：https://www.datalearner.com/ai-models/pretrained-models/XVERSE-13B
| OpenLLaMA-13B |
| 42.4 |
| 24.7 |
| 24.0 |
| 25.6 |
| 33.3 |
| OPT-13B | 25.2 | 25.0 | 24.2 | 24.4 | 31.1 |
| Pythia-12B | 25.1 | 26.2 | 25.3 | 25.3 | 26.8 |
| Ziya-LLaMA-13B-Pretrain-v1 | 43.9 | 30.2 | 27.2 | 26.4 | 37.6 |
| ChatGLM2-6B (base) | 47.86 | 51.7 |
| ChatGLM2-12B (base) | 56.18 | 61.6 |
| Qwen-7B | 56.7 | 59.6 |
| XVERSE-13B | 55.1 | 54.7 | 41.4 | 53.9 | 66.5 |
