DataLearner 标志
CP

CPM-Bee

基础大模型

Chinese Pretrained Model - Bee

发布时间: 2023-05-27更新于: 2023-07-07 22:56:03.307780
模型参数
100亿
上下文长度
2K
中文支持
支持
推理能力

Chinese Pretrained Model - Bee 是由 面壁智能 发布的 AI 模型,发布时间为 2023-05-27,定位为 基础大模型,参数规模约为 100亿,上下文长度为 2K,模型文件大小约 19.2GB,采用 Apache 2.0 许可。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

CPM-Bee

模型基本信息

推理过程
不支持
思考模式
不支持思考模式
上下文长度
2K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2023-05-27
模型文件大小
19.2GB
MoE架构
总参数 / 激活参数
100亿 / 不涉及
知识截止
暂无数据
CPM-Bee

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0- 免费商用授权
在线体验
暂无在线体验地址
CPM-Bee

官方介绍与博客

DataLearnerAI博客
暂无介绍博客
CPM-Bee

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
CPM-Bee

评测结果

当前尚无可展示的评测数据。

和其他模型对比

暂时没有为该模型整理的相关对比页面。

想自定义其他组合?打开对比工具

CPM-Bee

发布机构

Chinese Pretrained Model - Bee

模型解读

CPM-Bee是清华大学NLP实验室发布的一个中文大语言模型。完全开源!



-----------------2023年6月30日---------------------

基于CPM-Bee的多模态大模型VisCPM发布: https://www.datalearner.com/blog/1051688132077366  



-----------------2023年6月27日---------------------

CPM-Bee发布一个月之后的功能更新: https://datalearner.com/blog/1051687966305189 


-----------------2023年5月27日---------------------

关于CPM-Bee的详细介绍: https://www.datalearner.com/blog/1051685537043575 




CPM-Bee模型参数CPM-Bee模型参数结果
模型名称CPM-Bee
模型架构transformer
基础模型CPM-Ant
模型最大参数10亿
训练时间2022年10月13日-2023年5月27日
模型类型基础语言模型
训练数据集200GB高质量中文数据集+400GB多语言数据集
训练数据集tokens数1万亿



CPM-Bee包含4个版本,其具体参数和预训练结果下载地址参考:

CPM-Bee模型版本推理的显存预训练结果下载地址推荐的硬件
CPM-Bee-10B20GB https://huggingface.co/openbmb/cpm-bee-10b/tree/main RTX3090(24GB)
CPM-Bee-5B11 GB https://huggingface.co/openbmb/cpm-bee-5b/tree/main RTX 3090(24 GB)
CPM-Bee-2B6.7 GB https://huggingface.co/openbmb/cpm-bee-2b/tree/main GTX 1080(8 GB)
CPM-Bee-1B4.1 GB https://huggingface.co/openbmb/cpm-bee-1b/tree/main GTX 1660(6 GB)


基础模型

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码