Nemotron 3.5 Bolt 74B-A9B

Nemotron 3.5 Bolt 74B-A9B 是 NVIDIA 于 2026 年 10 月 15 日开放权重的端侧/本地多模态模型，总参数 74B、激活约 9B，采用 Mamba-2–Transformer 混合 LatentMoE 结构，视觉编码器为 C-RADIO v4-H，输入文本、图像和 2 分钟以内视频，输出文本，上下文 256K，许可 OpenMDW-1.1。它主打的版本是用原生 2-bit 量化压到 24GB 显存的“24GB”权重，BF16 版主要供微调和继续训练。核心判断：在“一张 24GB 消费级显卡”这条线上，它的官方成绩明显好于同显存的 Qwen3.6-35B-A3B 和 Gemma 4 26B-A4B，但所有对比都由 NVIDIA 自己跑。

2-bit 压缩只损失了几个点

模型卡同时给出 BF16 与 24GB（IQ2）两个版本的成绩：Terminal-Bench 2.1 为 53.93% 对 50.98%，GPQA Diamond 88.83% 对 86.43%，BrowseComp 70.00% 对 66.75%，GDPval-AA v2 为 31.13 对 28.47，tau3-bench banking 两者都是 17.01%。多数指标差 2 到 4 个百分点，HLE（无工具）差得最多，28.73% 对 25.30%。压缩方法来自 NVIDIA 的 Star Elastic 论文（arXiv 2605.07182）。这说明“原生低比特”路线在这个规模上确实可用，而不是社区事后量化常见的明显掉点。

对比对象选的是同显存，而不是同参数

NVIDIA 把 24GB 版放在 Qwen3.6-35B-A3B、Gemma 4 26B-A4B 和自家 Nemotron 3.5 Lightning 30B-A3B 旁边比较：Terminal-Bench 2.1 上 50.98% 对 44.38%、37.22%、23.46%，BrowseComp 66.75% 对 48.74%、26.30%、36.81%。这些对手总参数只有它的一半左右，比较的口径是“相近内存占用”。在 AA-Omniscience 非幻觉率上，Bolt 24GB 为 61.27%，低于 Qwen3.6-35B-A3B 的 65.85% 和 Lightning 的 68.81%，BF16 版更低（56.14%），可见它更倾向于给出答案。MCP-Atlas 一项，模型卡注明 Qwen3.6 的官方值是 62.8%，NVIDIA 在 500 道公开题上只测到 51.2%，两个数字口径不同。

适用边界

想在单张 24GB 显卡或高端笔记本上跑带视觉的本地 Agent（网页操作、工具调用），Bolt 24GB 是目前官方数据最好的选择之一；需要 1M 上下文或更强推理时，应选 Nemotron 3.5 Super VL 或云端模型。官方未公布最大输出长度，示例请求使用 16,384 token；更小的 Bolt E4B 预计 10 月 23 日发布，不在本页范围内。