DBRX Instruct
DBRX Instruct 是由 databricks 发布的 AI 模型，发布时间为 2024-03-27，定位为 聊天大模型，参数规模约为 1320.0B，上下文长度为 32K，模型文件大小约 264GB，采用 Databricks Open Model License 许可。
数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法
DBRX Instruct是基于DBRX Base模型进行指令优化微调得到的一个大语言模型。它是由Databricks开源。包含了1320亿参数的混合专家大模型。共16个专家网络，每次推理有4个专家工作，激活360亿的参数。
该模型在各个评测结果上表现都很好，超过了另外两个著名的混合专家模型Mixtral-8*7B-MoE模型和马斯克开眼的Grok-1模型。前者是由MistralAI开源的著名的混合专家模型，也是此前开源大模型中表现最好的模型之一。
关于Mixtral-8*7B-MoE模型参考： https://www.datalearner.com/ai-models/pretrained-models/Mistral-7B-MoE
关于Grok-1模型参考： https://www.datalearner.com/ai-models/pretrained-models/Grok-1
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
