CP
CPM-Bee
基础大模型Chinese Pretrained Model - Bee
发布时间: 2023-05-27更新于: 2023-07-07浏览量: 796
CPM-Bee is a 10B-parameter open Chinese-English base model from Tsinghua University's NLP lab and ModelBest, released in May 2023. It was later the base of the VisCPM multimodal models and was free for commercial use after registration.
数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法
CPM-Bee
模型基本信息
推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
2K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2023-05-27
模型文件大小
19.2GB
MoE架构
否
总参数 / 激活参数
100亿 / 不适用
知识截止
暂无数据
CPM-Bee
开源和体验地址
CPM-Bee
官方介绍与博客
DataLearnerAI博客
暂无
CPM-Bee
API接口信息
接口速度
暂无数据
暂无公开的 API 定价信息。
CPM-Bee
评测结果
CPM-Bee
发布机构
面壁智能
查看发布机构详情 Chinese Pretrained Model - Bee
模型解读
CPM-Bee是清华大学NLP实验室发布的一个中文大语言模型。完全开源!
-----------------2023年6月30日---------------------
基于CPM-Bee的多模态大模型VisCPM发布: https://www.datalearner.com/blog/1051688132077366
-----------------2023年6月27日---------------------
CPM-Bee发布一个月之后的功能更新: https://datalearner.com/blog/1051687966305189
-----------------2023年5月27日---------------------
关于CPM-Bee的详细介绍: https://www.datalearner.com/blog/1051685537043575
| CPM-Bee模型参数 | CPM-Bee模型参数结果 |
|---|---|
| 模型名称 | CPM-Bee |
| 模型架构 | transformer |
| 基础模型 | CPM-Ant |
| 模型最大参数 | 10亿 |
| 训练时间 | 2022年10月13日-2023年5月27日 |
| 模型类型 | 基础语言模型 |
| 训练数据集 | 200GB高质量中文数据集+400GB多语言数据集 |
| 训练数据集tokens数 | 1万亿 |
CPM-Bee包含4个版本,其具体参数和预训练结果下载地址参考:
| CPM-Bee模型版本 | 推理的显存 | 预训练结果下载地址 | 推荐的硬件 |
|---|---|---|---|
| CPM-Bee-10B | 20GB | https://huggingface.co/openbmb/cpm-bee-10b/tree/main | RTX3090(24GB) |
| CPM-Bee-5B | 11 GB | https://huggingface.co/openbmb/cpm-bee-5b/tree/main | RTX 3090(24 GB) |
| CPM-Bee-2B | 6.7 GB | https://huggingface.co/openbmb/cpm-bee-2b/tree/main | GTX 1080(8 GB) |
| CPM-Bee-1B | 4.1 GB | https://huggingface.co/openbmb/cpm-bee-1b/tree/main | GTX 1660(6 GB) |
基础模型
CPM-Bee
查看详情DataLearner 官方微信
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
