DataLearner 标志
DB

DBRX Instruct

聊天大模型DBRX

DBRX Instruct

发布时间: 2024-03-27更新于: 2024-03-27 21:38:08642
模型参数
1320亿
上下文长度
32K
中文支持
不支持
推理能力

DBRX Instruct 是由 databricks 发布的 AI 模型,发布时间为 2024-03-27,定位为 聊天大模型,参数规模约为 1320亿,上下文长度为 32K,模型文件大小约 264GB,采用 Databricks Open Model License 许可。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

DBRX Instruct

模型基本信息

推理过程
不支持
思考模式
不支持思考模式
上下文长度
32K tokens
最大输出长度
暂无数据
模型类型
聊天大模型
输入/输出模态
暂无数据
发布时间
2024-03-27
模型文件大小
264GB
MoE架构
总参数 / 激活参数
1320亿 / 不涉及
知识截止
暂无数据
DBRX Instruct

开源和体验地址

DBRX Instruct

官方介绍与博客

DataLearnerAI博客
暂无介绍博客
DBRX Instruct

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
DBRX Instruct

评测结果

当前尚无可展示的评测数据。

和其他模型对比

暂时没有为该模型整理的相关对比页面。

想自定义其他组合?打开对比工具

DBRX Instruct

发布机构

DBRX Instruct

模型解读

DBRX Instruct是基于DBRX Base模型进行指令优化微调得到的一个大语言模型。它是由Databricks开源。包含了1320亿参数的混合专家大模型。共16个专家网络,每次推理有4个专家工作,激活360亿的参数。


该模型在各个评测结果上表现都很好,超过了另外两个著名的混合专家模型Mixtral-8*7B-MoE模型和马斯克开眼的Grok-1模型。前者是由MistralAI开源的著名的混合专家模型,也是此前开源大模型中表现最好的模型之一。

关于Mixtral-8*7B-MoE模型参考: https://www.datalearner.com/ai-models/pretrained-models/Mistral-7B-MoE 

关于Grok-1模型参考: https://www.datalearner.com/ai-models/pretrained-models/Grok-1 

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码