DB
DBRX Instruct
发布时间: 2024-03-27更新于: 2026-09-04退役: 2025-12-19浏览量: 646
模型参数
1320亿
上下文长度
32K
多语言支持
暂无数据
推理能力
暂无数据
DBRX Instruct 是由 databricks 发布的 AI 模型,发布时间为 2024-03-27,定位为 聊天大模型,参数规模约为 1320亿,上下文长度为 32K,模型文件大小约 264GB,采用 Databricks Open Model License 许可。
数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法
DBRX Instruct
模型基本信息
推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
32K tokens
最大输出长度
暂无数据
模型类型
聊天大模型
输入/输出模态
暂无数据
发布时间
2024-03-27
模型文件大小
264GB
MoE架构
否
总参数 / 激活参数
1320亿 / 不适用
知识截止
暂无数据
DBRX Instruct
开源和体验地址
DBRX Instruct
官方介绍与博客
DataLearnerAI博客
暂无
DBRX Instruct
API接口信息
接口速度
暂无数据
暂无公开的 API 定价信息。
DBRX Instruct
发布机构
databricks
查看发布机构详情 DBRX Instruct
模型解读
DBRX Instruct是基于DBRX Base模型进行指令优化微调得到的一个大语言模型。它是由Databricks开源。包含了1320亿参数的混合专家大模型。共16个专家网络,每次推理有4个专家工作,激活360亿的参数。
该模型在各个评测结果上表现都很好,超过了另外两个著名的混合专家模型Mixtral-8*7B-MoE模型和马斯克开眼的Grok-1模型。前者是由MistralAI开源的著名的混合专家模型,也是此前开源大模型中表现最好的模型之一。
关于Mixtral-8*7B-MoE模型参考: https://www.datalearner.com/ai-models/pretrained-models/Mistral-7B-MoE
关于Grok-1模型参考: https://www.datalearner.com/ai-models/pretrained-models/Grok-1
DataLearner 官方微信
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
