NVIDIA 发布开源 Nemotron 3.5 Super VL 120B 及两款 Bolt 端侧模型

NVIDIA 今日发布 Nemotron 3.5 Super VL，这是一个 1200 亿参数的开放模型，为专用常驻智能体提供最快的任务完成速度和最高准确率。

同时发布的还有两款新的边缘模型：Nemotron 3.5 Bolt 74B-A9B 24GB，针对本地智能体工作负载优化，以平衡每 GB 的智能与速度；以及 Nemotron 3.5 Bolt E4B 4GB，为快速对话式智能体优化每 GB 的智能表现。

Super VL 和 Bolt 74B-A9B 现已推出，Bolt E4B 将于 10 月 23 日发布。

这三款开放模型共同覆盖了智能体部署的完整范围，从大型企业服务器到边缘设备和本地硬件。

任何希望在 NVIDIA 基础设施上运行智能体的组织，现在都有针对其层级的开放、优化模型，无需在能力与可部署性之间做出取舍。

Super VL 和 Bolt 加入了 Nemotron 家族，与Lightning和 Ultra 并列。

Lightning 于 8 月发布，负责高吞吐量工作负载；Ultra 负责最难的推理任务；而 Bolt 则将智能带到边缘。

Nemotron 3.5 Super VL：以五分之一的体积实现前沿准确率

Super VL 与Nemotron Coalition合作构建，在多模态智能体任务上——指令遵循、工具使用、多步骤业务工作流和视觉理解——提供领先的准确率，与 NVIDIA 最大的推理模型相当，而参数量仅约为其五分之一。

Nemotron 3.5 Super VL 在其同类中为高负载智能体工作流提供前沿级智能。

作为同类中最快的开放智能体模型——比次优模型快 5 倍——它帮助企业智能体在跨越数天或数周的工作流中更快完成高负载任务。

在 Artificial Analysis Intelligence Index 排行榜上，Nemotron 3.5 Super VL 的吞吐量最高可达同类其他模型的 5 倍。

与封闭的前沿模型不同，组织可以在自己的数据上对 Super VL 进行后训练，部署在自己的基础设施上，并监督自己构建的内容。

Nemotron 3.5 Bolt：边缘智能体智能

Bolt 74B-A9B 24GB 旨在 NVIDIA RTX/DGX Spark 上本地运行日常智能体任务，采用原生 2 位量化以适应 24GB 内存，并与其他应用程序并行运行。

与其他内存占用相近的模型相比，它在智能与速度之间取得了良好平衡：足够聪明以完成大多数任务，同时比最智能的模型快得多。

借助 Bolt 74B-A9B 24GB，用户可以将项目委托给流行的本地智能体框架——从网络研究到写作再到代码调试——全程无需将这些工作负载发送到云端。它是同类中PinchBench上的第一开放模型，也是BrowseComp的第二开放模型。

Bolt E4B 4GB 为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理与对话式智能体而构建。它将自然对话与多轮智能体能力相结合，为快速本地语音助手、交互式角色和嵌入式界面提供支持。

定制超级智能的采用情况

数十家跨行业的组织正在用自有数据、工具、策略和工作流对 Super VL 进行后训练，以在其定义智能体部署的专业任务上进一步提升准确率。

各行业的组织正在对 Super VL 进行后训练和定制。Scale AI 为 Skydance 的供应商信贷金融智能体和 EY 的并购尽职调查智能体对该模型进行了后训练。 AfterQuery 为 Hebbia 定制了该模型，用于信贷协议分析。AI21 和 Alice 为网络安全攻击韧性对该模型进行了后训练。Mercor 基于 APEX-SWE 编码基准对该模型进行了后训练，用于规划、编写和调试代码的编码智能体。ModelScope 让开发者能够通过其 ms-swift 框架对模型进行微调，用于专业的多模态应用。

其他正在定制 Nemotron 3.5 Super VL 的组织包括：Ramp 用于金融文档智能；Dream 用于主权 AI 驱动的网络安全研究和漏洞分析；Lila Sciences 用于科学发现与检索；以及 R1 用于医疗理赔分析和收入周期管理。TrainLoop 使用来自 Nolla 的皮肤科数据对该模型进行了后训练，Nolla 刚刚成为首家获得 AI 开具患者初诊处方批准的公司。

正在集成 Nemotron 3.5 Super VL 的软件平台公司包括：

Atlassian，用于跨 Jira 和 Confluence 等应用的智能体搜索等任务。
CrowdStrike，正在为企业安全中的智能体蓝队作业定制该模型。
达索系统（Dassault Systèmes），用于驱动工程设计仿真。
Perplexity，用于 Perplexity Search 和 Computer 中的搜索与智能体任务。
Salesforce，正在定制 Nemotron，通过 Missionforce Operations 在安全的客户环境中为数字化和自动化复杂政府工作流的 AI 智能体提供支持。
Synopsys 的半导体设计验证软件可与该模型互操作。

Nemotron 3.5 Super VL 实际看到什么

Nemotron 3.5 Super VL 的视觉语言能力针对的是智能体在实践中遇到的内容：视觉文档中的光学字符识别、表格、图表和结构化信息。

它能处理网页、提取文本、读取图形和图表，并根据所找到的内容返回洞察。对于智能体常用的 PDF 及其他文档也是如此。

Nemotron 3.5 Super VL 能够理解图像、网页和 PDF，并基于这种理解采取行动。在同一个模型中结合文本与视觉理解，意味着智能体无需在独立系统之间分发任务——当工作从文档到数据再到决策推进时，上下文得以全程保留。

开放以实现最大程度的控制、安全与隐私

开放性与可定制性相辅相成。该模型提供开放权重、开放数据集和训练配方。

控制体现在两个方向。企业可以在其安全和数据驻留要求所要求的任何地方运行该模型。他们也选择采用一个可以自行适配的模型，而不是受制于供应商限制的模型。

例如在保险业，定制化的智能体可以反复扫描理赔中的欺诈迹象。在金融服务领域，智能体可以审查信用评分，并根据企业自身的放贷标准标记异常活动。模型留在本地，数据保持私密。

定制化通过 NVIDIA NeMo、基于 Python 的流水线和开放数据集提供支持。

Nemotron 3.5 Super VL 在预训练和持续预训练中使用了约 26 万亿 token 进行训练，随后用约 380 万个样本以及跨数十个环境的强化学习进行后训练。

NVIDIA 还在 Hugging Face 上发布开放数据集，涵盖智能体工具使用、金融、指令遵循、长上下文、公平性和视觉语言理解，以及 NeMo Gym 中的强化学习环境。

NVIDIA NIM 将该模型打包为生产就绪的微服务，提供性能优化、经验证的配置和企业级支持，每两周更新一次安全补丁和性能改进。

借助在 NVIDIA Dynamo 上运行的模型，企业可以以低 85% 的延迟服务多达 8 倍的用户。

Nemotron 3.5 Super VL 现已在 Hugging Face、Open Router、ModelScope 社区上线，并可通过 NVIDIA NIM 获取。

可在 DGX Spark、DGX Station 和 RTX 上运行

Nemotron 3.5 Super VL 可在 NVIDIA 的完整硬件栈上运行：在 DGX Spark、DGX Station、RTX PRO 和 RTX 系统上实现桌面端本地智能，在边缘端的 NVIDIA Jetson 上运行，并覆盖数据中心和云端环境。

Nemotron 3.5 Bolt 74B-A9B 24GB 现已在 Hugging Face 上推出，支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。它专为 10 月 16 日上市的 NVIDIA RTX Spark 笔记本打造，也可运行在 GeForce RTX PC、DGX Spark、DGX Station 和 RTX PRO 工作站上。

下载开放权重，通过 NVIDIA NeMo 探索定制化资源，或阅读技术博客了解完整的架构解析。

订阅 NVIDIA Nemotron 等资讯，及时了解智能体等最新动态：订阅 NVIDIA 新闻、 加入社区，并在 LinkedIn、 Instagram、 X 和 Facebook 上关注 NVIDIA AI。

探索 自学视频教程和直播。

请查看有关软件产品信息的 声明。