Artificial Analysis · 2026/10/15 08:00:00
NVIDIA 发布 Nemotron 3.5 Super VL：登顶美国开源权重模型，NVFP4 量化近乎无损且效率翻倍
NVIDIA 推出 Nemotron 3.5 Super VL，以 26.5 分在 Artificial Analysis 智能指数中超越 Thinking Machines 和 Meta 的竞品，成为当前领先的美国开源权重模型。该模型不仅实现了较前代两倍的智能提升，还通过优化将单任务输出 Token 减少约 60%，并在 NVFP4 量化格式下保持与 BF16 几乎一致的精度（误差小于 0.1 分）。此外，同系列发布的 Bolt 74B-A9B 以极小的参数规模逼近旗舰 Ultra 的性能，展示了高效稀疏架构的最新进展。
报道全文原始报道全文
Nvidia 的 Nemotron 3.5 Super VL 现已成为美国领先的开源权重模型，在 Artificial Analysis Intelligence Index（智能指数）中得分 26
Nemotron 3.5 Super VL 实现了其前代产品 Nemotron 3 Super（得分为 13）两倍智能水平，且每项任务使用的输出 token 数量减少了约 60%。
它与 Nemotron 3.5 Bolt 74B-A9B 一同发布，这是其全新 Bolt 系列中的首款模型，在智能指数中得分为 21。
核心要点：
➤ 美国领先的开源权重模型： Nemotron 3.5 Super VL 得分为 26.5，略微超过 Thinking Machines 的 Inkling Small（25.7），并领先于 NVIDIA 的 Nemotron 3 Ultra（23）和 Meta 的 Muse Glimmer（17）。
➤ Bolt 与 Ultra 差距仅 2 分： Nemotron 3.5 Bolt 74B-A9B 得分为 21，比 Nemotron 3 Ultra 550B A55B（23）低 1.5 分。其总参数量约为 Ultra 的七分之一（74B vs 550B），激活参数量约为六分之一（9B vs 55B）。
➤ Super 3.5 在 NVFP4 格式下近乎无损： Nemotron 3.5 Super VL 以 NVFP4 格式发布，其在智能指数上的得分与其 BF16 权重版本相差不到 0.1 分，且各组成部分的分差均未超过 2.6 分。
Nemotron 3.5 Super VL 详情
- 上下文窗口： 1M tokens
- 模态： 视觉和文本输入；文本输出
- 参数： 120B / 12B
Nemotron 3.5 Bolt 74B-A9B 详情
- 上下文窗口： 256k tokens
- 模态： 视觉和文本输入；文本输出
- 参数： 74B / 9B
Nemotron 3.5 Super - 美国开源权重领导者
Nemotron 3.5 Super VL 是美国得分最高的开源权重模型，在智能指数中得分为 26。它略胜 Thinking Machines 的 Inkling Small（26），并超越了 NVIDIA 之前的旗舰产品 Nemotron 3 Ultra（23）以及 Meta 的 Muse Glimmer（17）。
尽管取得了进步，但在开源权重智能方面，美国仍落后于阿拉伯联合酋长国（K2 Horizon 375B A23B，31）和中国（MiMo-V2.6-Pro，46）。
Nemotron 3.5 Super - Token 使用情况
Nemotron 3.5 Super VL 在每项智能指数任务中使用 46k 个输出 token，比其前代产品 Nemotron 3 Super（114k）减少约 60%，也少于 K2 Horizon 375B A23B（52k）和 MiMo-V2.6-Pro（64k）。
尽管 token 效率有了显著提升，但 Nemotron 3.5 Super 在“智能指数 vs. 每任务输出 token 数”的前沿曲线上仍有较大差距。
Nemotron 3.5 Super - 输出速度
在 @DeepInfra 提供的预发布端点上，使用 NVFP4 权重进行测量，Nemotron 3.5 Super VL 在处理 10 万 token 提示词时达到了约 630 tokens/s 的输出速度。这是我们在该提示词长度下测得的、所有在 Intelligence Index（智能指数）中得分超过 20 分的模型中最快的。
这大约是 Inkling Small（124 tokens/s）的 5 倍，Nemotron 3 Ultra（235 tokens/s）的 2.7 倍，以及 Nemotron 3 Super（140 tokens/s）的 4.5 倍。其首 token 延迟为 1.8 秒，相比之下，Nemotron 3 Ultra 为 4.4 秒，Inkling Small 为 8.5 秒。
Nemotron 3.5 Bolt
Nemotron 3.5 Bolt 74B-A9B 是 NVIDIA 全新 Bolt 系列中的首款模型。它在 Intelligence Index 上得分为 21.4，在参数量低于 100B 的模型中排名第 4，并在该类别的美国模型中位列第一。
Bolt 比 Nemotron 3 Super（12.8 分）高出 8.6 分，但总参数量减少了 39%。与 Nemotron 3 Ultra 相比，Bolt 在 AutomationBench-AA（15.5% vs 3.0%）和 AA-Briefcase（912 vs 874 Elo）上领先，但在 AA-LCR（70% vs 79%）和 Humanity's Last Exam（人类最后考试，25% vs 28%）上落后。
Nemotron 3.5 Bolt - Token 用量
Nemotron 3.5 Bolt 74B-A9B 在每个 Intelligence Index 任务中使用 8.2 万输出 token，是 Nemotron 3.5 Super VL（4.6 万）的 1.8 倍，也是 Nemotron 3 Ultra（2.8 万）的 2.9 倍，但仍比 Nemotron 3 Super（11.4 万）少 28%。