Llama-4-Scout-17B-16E-Instruct
发布时间: 2025-04-05
不支持
1000K tokens
4096 tokens
多模态大模型
2025-04-05
218GB
输入支持
输入支持
输入支持
输入支持
输入不支持
输出支持
输出不支持
输出不支持
输出不支持
输出不支持
Llama 4 Scout是MetaAI开源的一个MoE架构的大模型。根据MetaAI发布的介绍,该模型具有17亿活跃参数和16个专家单元,总参数量达到1090亿。作为一款专注于多模态任务的模型,Llama 4 Scout在文本和视觉信息的融合方面进行了专门设计,通过早期融合技术,将文本和图像的输入整合到统一的模型骨干中,从而支持联合预训练,并提升多模态处理的能力。
该模型是MoE架构,包含16个专家,Llama 4 Scout Instruct是其指令微调版本。
关注DataLearnerAI微信公众号,接受最新大模型资讯