NVIDIA 开源 Nemotron 3.5 Super VL 与 Bolt：覆盖数据中心至边缘的专用智能体模型矩阵

NVIDIA 今日发布了 Nemotron 3.5 Super VL，这是一款拥有 1200 亿参数的开源模型，专为常驻（always-on）智能体打造，可提供最快的任务完成速度和最高的准确率。

与此同时，NVIDIA 还推出了两款新的边缘端模型：Nemotron 3.5 Bolt 74B-A9B 24GB，针对本地智能体工作负载优化了每 GB 内存下的智能与速度平衡；以及 Nemotron 3.5 Bolt E4B 4GB，专为快速对话智能体优化了每 GB 内存下的智能表现。

Super VL 和 Bolt 74B-A9B 现已可用，Bolt E4B 将于 10 月 23 日推出。这三款开源模型共同覆盖了从大型企业服务器到边缘设备及本地硬件的全范围智能体部署场景。

任何希望在 NVIDIA 基础设施上运行智能体的组织，现在都可以为其特定层级获取经过优化的开源模型，无需在能力与可部署性之间做出取舍。

Super VL 和 Bolt 加入 Nemotron 家族，与 Lightning 和 Ultra 并列。

8 月发布的 Lightning 负责处理高吞吐量工作负载；Ultra 负责处理最复杂的推理任务；而 Bolt 则将智能带入边缘端。

Nemotron 3.5 Super VL：以五分之一的规模实现前沿精度

Super VL 由 NVIDIA 与 Nemotron 联盟合作构建，在多模态智能体任务——包括指令遵循、工具使用、多步骤业务工作流和视觉理解——方面提供了领先的准确率，其性能可与 NVIDIA 最大的推理模型相媲美，但参数量仅约为后者的五分之一。

Nemotron 3.5 Super VL 为高容量智能体工作流提供了同类别中的前沿级智能。

作为同类中最快的开源智能体模型——比次优模型快 5 倍——它有助于企业智能体在跨越数天或数周的工作流中更快地完成高容量任务。

在 Artificial Analysis Intelligence Index 排行榜上，Nemotron 3.5 Super VL 实现了相比同类其他模型高达 5 倍的吞吐量提升。

与封闭的前沿模型不同，组织可以使用自己的数据对 Super VL 进行后训练，将其部署在自己的基础设施上，并监督其构建过程。

Nemotron 3.5 Bolt：边缘端的智能体智能

Bolt 74B-A9B 24GB 专为在 NVIDIA RTX/DGX Spark 上本地运行日常智能体任务而设计，采用原生 2-bit 量化技术以适配 24GB 显存，并支持与其他应用程序并行运行。

相较于具有相似内存占用的其他模型，它在智能性与速度之间取得了良好平衡：足够聪明以完成大多数任务，同时又比最聪明的模型快得多。

借助 Bolt 74B-A9B 24GB，用户可以将项目委托给流行的本地智能体框架——从网络研究、写作到代码调试——所有工作负载均无需发送至云端。它是 PinchBench 同类别中排名第一的开源模型，也是 BrowseComp 排名第二的开源模型。

Bolt E4B 4GB 专为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理及对话式智能体构建。它将自然对话与多轮智能体能力相结合，为快速本地语音助手、交互式角色和嵌入式界面提供动力。

定制超级智能体的采用

来自各行各业的数十家组织正在使用其自有数据、工具、政策和工作流对 Super VL 进行后训练，以提高其在定义其智能体部署的专业任务上的准确性。

Super VL 正被各行各业的组织进行后训练和定制。Scale AI 针对 Skydance 的供应商信贷金融智能体和 EY 的并购尽职调查智能体对该模型进行了后训练。AfterQuery 针对 Hebbia 的信贷协议分析对该模型进行了定制。AI21 和 Alice 针对网络安全攻击韧性对该模型进行了后训练。Mercor 在 APEX-SWE 编码基准测试上对该模型进行了后训练，用于规划、编写和调试代码的编码智能体。ModelScope 通过其 ms-swift 框架使开发者能够针对专用多模态应用对该模型进行微调。

定制 Nemotron 3.5 Super VL 的其他组织包括：Ramp，用于金融文档智能；Dream，用于主权 AI 驱动的网络安全研究与漏洞分析；Lila Sciences，用于科学发现与搜索；以及 R1，用于医疗理赔分析与收入周期管理。TrainLoop 使用来自 Nolla 的皮肤科数据对该模型进行了后训练（post-trained），Nolla 刚刚成为首家获批利用 AI 开具患者初始处方的公司。

集成 Nemotron 3.5 Super VL 的软件平台公司包括：

• Atlassian，用于在 Jira 和 Confluence 等应用中进行智能体搜索（agentic search）等任务。
• CrowdStrike，正在针对企业安全中的智能体蓝队演练（agentic blue teaming）对模型进行定制。
• Dassault Systèmes，为工程设计与仿真提供动力。
• Perplexity，用于 Perplexity Search 和 Computer 中的搜索及智能体任务。
• Salesforce，正在定制 Nemotron，以通过 Missionforce Operations 在安全的客户环境中驱动 AI 智能体，实现复杂政府工作流的数字化与自动化。
• Synopsys 的半导体设计验证软件与该模型实现了互操作。

Nemotron 3.5 Super VL 实际能“看”到什么

Nemotron 3.5 Super VL 的视觉语言能力旨在应对智能体在实际场景中遇到的挑战：光学字符识别（OCR）、表格、图表以及视觉文档中的结构化信息。

它能够处理网页，提取文本，读取图形和图表，并基于所获取的内容返回洞察结果。这一能力同样适用于 PDF 及其他智能体常处理的文档。

Nemotron 3.5 Super VL 能够理解图像、网页和 PDF，并基于这种理解采取行动。将文本理解与视觉理解融合于单一模型中，意味着智能体无需在不同系统间路由任务——当工作流程从文档推进到数据再到决策时，上下文得以无缝延续。

开放架构，实现最大程度的控制、安全与隐私

开放性与可定制性相辅相成。该模型提供了开放权重、开放数据集以及训练配方。

控制权体现在两个方向。组织可以根据其安全和数据驻留要求，在任何地方运行模型。他们还可以选择采用可适配的模型，而非受限于提供商限制的模型。

例如在保险行业，定制化的智能体可以反复扫描理赔申请以识别欺诈标记。在金融服务领域，智能体可以审查信用评分，并根据组织自身的贷款标准标记异常活动。模型保留在本地部署环境中，数据保持私密性。

通过 NVIDIA NeMo、基于 Python 的流程管道以及开放数据集来支持定制化。

Nemotron 3.5 Super VL 在 预训练 和继续预训练阶段使用了约 26 万亿个 token，随后使用约 380 万个样本进行后训练，并在数十种环境中应用强化学习。

NVIDIA 还在 Hugging Face 上发布了涵盖 智能体工具使用、金融、指令遵循、长上下文、公平性以及视觉-语言理解的开放数据集，以及 NeMo Gym 中的强化学习环境。

NVIDIA NIM 将模型打包为生产就绪的微服务，提供经过性能优化和验证的配置以及企业级支持，并每两周更新一次安全补丁和性能改进。

借助在 NVIDIA Dynamo 上运行的模型，组织可以将用户承载量提升高达 8 倍，同时将延迟降低 85%。

Nemotron 3.5 Super VL 现已在 Hugging Face、Open Router、ModelScope 社区 以及 NVIDIA NIM 上提供。

可在 DGX Spark、DGX Station 和 RTX 上运行

Nemotron 3.5 Super VL 可在 NVIDIA 完整的硬件栈上运行：包括用于桌面端本地智能的 DGX Spark、DGX Station、RTX PRO 和 RTX 系统；用于边缘计算的 NVIDIA Jetson；以及数据中心和云环境。

Nemotron 3.5 Bolt 74B-A9B 24GB 现已在 Hugging Face 上线，支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。该模型专为将于 10 月 16 日发布的 NVIDIA RTX Spark 笔记本电脑打造，同时也兼容 GeForce RTX PC、DGX Spark、DGX Station 以及 RTX PRO 工作站。

下载开放权重，通过 NVIDIA NeMo 探索定制资源，或阅读技术博客以获取完整的架构解析。

订阅NVIDIA 新闻、加入社区，并在LinkedIn、Instagram、X* 和 Facebook 上关注 NVIDIA AI，以获取有关智能体（agents）、NVIDIA Nemotron 等的最新动态。*

浏览自助式视频教程和直播。

查看关于软件产品信息的声明。