Llama 4 Scout Instruct

Llama 4 Scout是MetaAI开源的一个MoE架构的大模型。根据MetaAI发布的介绍，该模型具有17亿活跃参数和16个专家单元，总参数量达到1090亿。作为一款专注于多模态任务的模型，Llama 4 Scout在文本和视觉信息的融合方面进行了专门设计，通过早期融合技术，将文本和图像的输入整合到统一的模型骨干中，从而支持联合预训练，并提升多模态处理的能力。

该模型是MoE架构，包含16个专家，Llama 4 Scout Instruct是其指令微调版本。