Baichuan2-7B-Chat
Baichuan2-7B-Chat 是由 百川智能 发布的 AI 模型，发布时间为 2023-09-06，定位为 聊天大模型，参数规模约为 70亿，上下文长度为 4K，模型文件大小约 15GB，采用 Baichuan 2模型社区许可协议 许可。
数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法
模型基本信息
开源和体验地址
官方介绍与博客
API接口信息
评测结果
和其他模型对比
暂时没有为该模型整理的相关对比页面。
想自定义其他组合？打开对比工具
发布机构
模型解读
Baichuan2-7B-Chat是百川公司开源的百川系列大模型的第二代。这是第二代模型中针对对话进行调优和对齐的版本。相比较第一代的模型，第二代的Baichuan2-7B-Chat在各方面都有较大的提升。
Baichuan2系列包含3类：基础模型、微调（对齐）模型和量化版本的模型。其中Baichuan2-7B-Base是基础模型，70亿参数。
第二代的大模型在2.6万亿Tokens的高质量语料上训练，比第一代使用了更多的语料。
Baichuan2-7B-Chat的推理显存需要15.3GB才能完成。具体Baichuan2-7B的推理显存（包括量化版本）参考如下：
| 量化精度 | Baichuan2-7B |
|---|---|
| bf16 / fp16 | 15.3 |
| 8bits | 8.0 |
| 4bits | 5.1 |
第二代百川大模型还有13B的版本，需要更高的显存，但是表现更好，Baichuan2-13B系列所需的推理显存参考 Baichuan2-13B-Chat的DataLearner模型信息卡 。
相比较第一代的 Baichuan 7B ，第二代模型在文本理解、推理能力、数学方面都有较大的提升。并且也是免费商用授权，但需要获得授权许可~
Baichuan2-7B-Chat模型在MMLU、C-Eval、AGIEval和GSM8K上的表现参考DataLearner大模型评测综合排行： https://www.datalearner.com/ai-models/llm-evaluation
Baichuan2系列模型的详细介绍，包括训练细节、数据集等参考DataLearner官方描述： https://www.datalearner.com/blog/1051694226173083
DataLearner 官方微信
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
