从数据中心到桌面全开放:NVIDIA 推出最高效率的 Super VL 与 Bolt 模型,扩展 Nemotron 家族
摘要
NVIDIA 发布开放的 Nemotron 3.5 Super VL(1200 亿参数级多模态模型)及两款边缘模型 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB,覆盖从数据中心到本地边缘设备的全场景智能体部署需求。
<div id="bsf_rt_marker"></div><p><span style="font-weight: 400;">NVIDIA 今日发布了 Nemotron 3.5 Super VL,这是一款开放的 1200 亿参数模型,专为全天候运行的专业智能体提供最快的任务完成速度和最高的准确率。</span></p>
<p><span style="font-weight: 400;">同时推出的还有两款新的边缘模型:Nemotron 3.5 Bolt 74B-A9B 24GB,针对本地智能体工作负载优化,在每 GB 内存下兼顾智能与速度;以及 Nemotron 3.5 Bolt E4B 4GB,针对快速对话智能体优化,在每 GB 内存下提供更优智能水平。</span></p>
<p><span style="font-weight: 400;">Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 将于 10 月 23 日发布。</span><b><i><br /></i></b><b><br /></b><span style="font-weight: 400;">这三款 </span><a target="_blank" href="https://www.nvidia.com/en-us/glossary/open-models/"><span style="font-weight: 400;">开放模型</span></a><span style="font-weight: 400;"> 共同覆盖了从大型企业服务器到边缘设备和本地硬件的全范围智能体部署场景。</span></p>
<p><span style="font-weight: 400;">任何希望在 NVIDIA 基础设施上运行智能体的组织,如今都能找到适合其层级的开放优化模型,无需在模型能力与部署可行性之间做出取舍。</span></p>
<p><span style="font-weight: 400;">Super VL 和 Bolt 与 </span><a href="https://blogs.nvidia.com/blog/nemotron-lightning-switchyard-rtx-dgx/"><span style="font-weight: 400;">Lightning</span></a><span style="font-weight: 400;"> 和 Ultra 一同加入 Nemotron 家族。</span></p>
<p><span style="font-weight: 400;">Lightning 于 8 月发布,负责高吞吐量工作负载;Ultra 负责最具挑战性的推理任务;而 Bolt 则将智能带到边缘端。</span></p>
<h2><b>Nemotron 3.5 Super VL:五分之一参数规模,前沿级准确率</b></h2>
<p><span style="font-weight: 400;">Super VL 与 </span><a target="_blank" href="https://nvidianews.nvidia.com/news/nvidia-launches-nemotron-coalition-of-leading-global-ai-labs-to-advance-open-frontier-models"><span style="font-weight: 400;">Nemotron 联盟</span></a><span style="font-weight: 400;"> 合作打造,在多模态智能体任务——指令遵循、工具使用、多步骤业务流程和视觉理解——上达到了领先的准确率,与 NVIDIA 最大的推理模型相当,而参数量仅为其约五分之一。<br /></span></p>
<figure id="attachment_98924" aria-describedby="caption-attachment-98924" style="width: 960px" class="wp-caption aligncenter"><img decoding="async" class="size-medium wp-image-98924" src="https://blogs.nvidia.com/wp-content/uploads/2026/10/SECOND-Artificial-Analysis-Index-960x408.png" alt="" width="960" height="408" srcset="https://blogs.nvidia.com/wp-content/uploads/2026/10/SECOND-Artificial-Analysis-Index-960x408.png 960w, https://blogs.nvidia.com/wp-content/uploads/2026/10/SECOND-Artificial-Analysis-Index-1680x714.png 1680w, https://blogs.nvidia.com/wp-content/uploads/2026/10/SECOND-Artificial-Analysis-Index-1280x544.png 1280w, https://blogs.nvidia.com/wp-content/uploads/2026/10/SECOND-Artificial-Analysis-Index-1536x653.png 1536w, https://blogs.nvidia.com/wp-content/uploads/2026/10/SECOND-Artificial-Analysis-Index-scaled.png 2048w, https://blogs.nvidia.com/wp-content/uploads/2026/10/SECOND-Artificial-Analysis-Index-630x268.png 630w" sizes="(max-width: 960px) 100vw, 960px" /><figcaption id="caption-attachment-98924" class="wp-caption-text">Nemotron 3.5 Super VL 在同类级别中提供前沿级智能水平,适用于大规模智能体工作流。</figcaption></figure>
<p><span style="font-weight: 400;">作为同级别中最快的开放智能体模型——速度是次优模型的 5 倍——它帮助企业智能体在跨越数天甚至数周的工作流中更快地完成大批量任务。</span></p>
<figure id="attachment_98926" aria-describedby="caption-attachment-98926" style="width: 960px" class="wp-caption aligncenter"><img loading="lazy" decoding="async" class="wp-image-98926 size-medium" src="https://blogs.nvidia.com/wp-content/uploads/2026/10/THIRD-Intelligence-Index-Output-Latest-960x449.jpeg" alt="" width="960" height="449" srcset="https://blogs.nvidia.com/wp-content/uploads/2026/10/THIRD-Intelligence-Index-Output-Latest-960x449.jpeg 960w, https://blogs.nvidia.com/wp-content/uploads/2026/10/THIRD-Intelligence-Index-Output-Latest-1680x786.jpeg 1680w, https://blogs.nvidia.com/wp-content/uploads/2026/10/THIRD-Intelligence-Index-Output-Latest-1280x599.jpeg 1280w, https://blogs.nvidia.com/wp-content/uploads/2026/10/THIRD-Intelligence-Index-Output-Latest-1536x719.jpeg 1536w, https://blogs.nvidia.com/wp-content/uploads/2026/10/THIRD-Intelligence-Index-Output-Latest-scaled.jpeg 2048w, https://blogs.nvidia.com/wp-content/uploads/2026/10/THIRD-Intelligence-Index-Output-Latest-630x295.jpeg 630w" sizes="auto, (max-width: 960px) 100vw, 960px" /><figcaption id="caption-attachment-98926" class="wp-caption-text">Nemotron 3.5 Super VL 在 Artificial Analysis 智能指数排行榜上,吞吐量比同类模型最高快 5 倍。</figcaption></figure>
<p><span style="font-weight: 400;">与封闭的前沿模型不同,组织可以使用自有数据对 Super VL 进行后训练,在自己的基础设施上部署,并对构建的内容进行全程管控。</span><span style="font-weight: 400;"><br /></span></p>
<h2>Nemotron 3.5 Bolt:边缘端的智能体智能</h2>
<p><span style="font-weight: 400;">Bolt 74B-A9B 24GB 专为在 NVIDIA RTX/DGX Spark 上本地运行日常智能体任务而设计,采用原生 2-bit 量化,可将模型压缩至 24GB 显存内运行,并与其他应用并行。</span></p>
<p><span style="font-weight: 400;">与显存占用相近的其他模型相比,它在智能与速度之间取得了良好平衡:足以胜任大多数任务,同时速度远快于最智能的模型。</span></p>
<p><img loading="lazy" decoding="async" class="aligncenter size-full wp-image-98941" src="https://blogs.nvidia.com/wp-content/uploads/2026/10/GDPVal_TPS_v3.png" alt="" width="1498" height="1032" srcset="https://blogs.nvidia.com/wp-content/uploads/2026/10/GDPVal_TPS_v3.png 1498w, https://blogs.nvidia.com/wp-content/uploads/2026/10/GDPVal_TPS_v3-960x661.png 960w, https://blogs.nvidia.com/wp-content/uploads/2026/10/GDPVal_TPS_v3-1280x882.png 1280w, https://blogs.nvidia.com/wp-content/uploads/2026/10/GDPVal_TPS_v3-630x434.png 630w" sizes="auto, (max-width: 1498px) 100vw, 1498px" /></p>
<p> </p>
<p><span style="font-weight: 400;">借助 Bolt 74B-A9B 24GB,用户可以将项目委托给流行的本地智能体工具链——从网络检索、写作到代码调试——全程无需将工作负载发送到云端。它是 </span><a target="_blank" href="https://pinchbench.com/?slm=true"><span style="font-weight: 400;">PinchBench</span></a><span style="font-weight: 400;"> 上同级别的 #1 开放模型,也是 </span><a target="_blank" href="https://leaderboard.steel.dev/leaderboards/browsecomp/?weights=open&sizes=tiny%2Csmall%2Cmedium"><span style="font-weight: 400;">BrowseComp</span></a><span style="font-weight: 400;"> 上的 #2 开放模型。</span><span style="font-weight: 400;"><br /></span><span style="font-weight: 400;"><br /></span><span style="font-weight: 400;">Bolt E4B 4GB 专为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理智能体和对话智能体打造。它将自然对话与多轮智能体能力相结合,为快速本地语音助手、互动角色和嵌入式界面提供驱动。</span></p>
<h2><b>定制超级智能的落地采用</b></h2>
<p><span style="font-weight: 400;">数十家跨行业组织正在使用自有数据、工具、策略和工作流对 Super VL 进行后训练,以在定义其智能体部署的专业任务上进一步提升准确率。</span></p>
<p><span style="font-weight: 400;">Super VL 正在被各行业的组织进行后训练和定制
查看缓存全文
缓存时间:
2026/10/15 18:49
# 从数据中心到桌面:NVIDIA 扩展 Nemotron 家族,推出最高效率的 Super VL 和 Bolt 模型
来源:https://blogs.nvidia.com/blog/nemotron-3-5-super-vl/
NVIDIA 今日发布了 Nemotron 3.5 Super VL——一款开放的 1200 亿参数模型,为全天候运行的专用智能体提供最快的任务完成速度和最高精度。
与之一同推出的还有两款新的边缘模型:Nemotron 3.5 Bolt 74B-A9B 24GB,针对本地智能体工作负载优化,实现了每 GB 内存下智能与速度的平衡;以及 Nemotron 3.5 Bolt E4B 4GB,针对快速对话型智能体优化,追求每 GB 内存的最高智能。Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 将于 10 月 23 日上线。这三款[开放模型](https://www.nvidia.com/en-us/glossary/open-models/)共同覆盖了从大型企业服务器到边缘设备和本地硬件的全部智能体部署场景。
任何希望在 NVIDIA 基础设施上运行智能体的组织,现在都能找到对应层级的开放、优化模型,无需在能力和可部署性之间做出取舍。
Super VL 和 Bolt 与 Lightning 和 Ultra 一同加入 Nemotron 家族。
Lightning 于 8 月发布,面向高吞吐量工作负载;Ultra 负责处理最具挑战性的推理任务;Bolt 则将智能带到边缘。
## **Nemotron 3.5 Super VL:五分之一参数量实现前沿精度**
Super VL 与 [Nemotron 联盟](https://nvidianews.nvidia.com/news/nvidia-launches-nemotron-coalition-of-leading-global-ai-labs-to-advise-open-frontier-models)合作打造,在多模态智能体任务上实现了领先精度——涵盖指令遵循、工具使用、多步骤业务流程和视觉理解——与 NVIDIA 最大的推理模型精度相当,而参数量仅为其五分之一左右。
Nemotron 3.5 Super VL 在其品类中提供了面向高负载智能体工作流的前沿级智能。作为同级别中最快的开放智能体模型——速度比第二名快 5 倍——它帮助企业智能体在持续数天甚至数周的工作流中更快地完成大批量任务。
Nemotron 3.5 Super VL 在 Artificial Analysis 智能指数排行榜上,吞吐量比同品类其他模型最高快 5 倍。与封闭的前沿模型不同,组织可以在自有数据上对 Super VL 进行后训练,部署在自有基础设施上,并完全掌控所构建的系统。
## Nemotron 3.5 Bolt:边缘端的智能体智能
Bolt 74B-A9B 24GB 专为在 NVIDIA RTX/DGX Spark 上本地运行日常智能体任务而设计,采用原生 2-bit 量化,可在 24GB 显存内运行,并与其他应用并行不冲突。
相比其他显存占用相近的模型,它在智能和速度之间实现了良好平衡:智能足以胜任大多数工作,同时远快于最聪明的模型。
借助 Bolt 74B-A9B 24GB,用户可以将项目委托给主流本地智能体框架执行——从搜索网页到写作再到调试代码——全程无需将工作负载发送到云端。它是 [PinchBench](https://pinchbench.com/?slm=true) 上同级别的 #1 开放模型,也是 [BrowseComp](https://leaderboard.steel.dev/leaderboards/browsecomp/?weights=open&sizes=tiny%2Csmall%2Cmedium) 上的 #2 开放模型。Bolt E4B 4GB 专为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理和对话智能体打造。它将自然对话与多轮智能体能力相结合,为快速本地语音助手、互动角色和嵌入式界面提供支持。
## **定制超级智能的采用情况**
各行业数十家组织正在使用自有数据、工具、策略和工作流对 Super VL 进行后训练,以在其智能体部署所定义的专用任务上不断提升精度。
Super VL 正在被各行业组织后训练和定制。[Scale AI](https://scale.com/blog/scale-partners-with-nvidia) 为 Skydance 的供应商信用财务智能体和 EY 的并购尽职调查智能体对模型进行了后训练。AfterQuery 为 Hebbia 定制了模型,用于信用协议分析。[AI21](https://www.ai21.com/blog/ai21-post-trains-nvidia-nemotron-35-super-vl/) 和 [Alice](http://alice.io/blog/nemotron-ai21) 对模型进行了后训练以增强网络安全攻击韧性。Mercor 在 APEX-SWE 编程基准上对模型进行了后训练,用于能够规划、编写和调试代码的编程智能体。[ModelScope](https://modelscope.ai/collections/nv-community/Nemotron-35-Super-VL) 使开发者能够通过其 [ms-swift](https://github.com/modelscope/ms-swift) 框架对模型进行微调,以实现专用多模态应用。
其他定制 Nemotron 3.5 Super VL 的组织包括:Ramp(金融文档智能)、Dream(主权 AI 驱动的网络安全研究和漏洞分析)、Lila Sciences(科学发现与搜索),以及 R1(医疗理赔分析和收入周期管理)。TrainLoop 使用 Nolla 的皮肤科数据对模型进行了后训练,Nolla 刚刚成为首家获准由 AI 撰写初诊处方的公司。集成 Nemotron 3.5 Super VL 的软件平台公司包括:
- **Atlassian**,用于 Jira 和 Confluence 等应用上的智能体搜索等任务。
- **CrowdStrike**,正在为企业安全中的智能体蓝队防御定制该模型。
- **Dassault Systèmes**,为工程设计和仿真提供支持。
- **Perplexity**,用于 Perplexity Search 和 Computer 中的搜索和智能体任务。
- **Salesforce**(https://www.salesforce.com/news/press-releases/2026/09/15/koa-reasoning-model/),正在定制 Nemotron 以驱动通过 Missionforce Operations 在安全客户环境中实现政府复杂工作流数字化和自动化的 AI 智能体。
- **Synopsys** 用于半导体设计验证的软件与该模型协同工作。
## Nemotron 3.5 Super VL 实际"看到"了什么
Nemotron 3.5 Super VL 的[视觉语言](https://www.nvidia.com/en-us/glossary/vision-language-models/)能力针对智能体在实践中遇到的内容:光学字符识别、表格、图表以及视觉文档中的结构化信息。
它可以处理网页、提取文本、读取图形和图表,并从发现的内容中返回洞察。同样的能力适用于 PDF 和智能体通常处理的其他文档。
Nemotron 3.5 Super VL 理解图像、网页和 PDF,并基于这种理解采取行动。将文本和视觉理解整合在一个模型中,意味着智能体无需在不同系统之间路由任务——随着工作从文档推进到数据再到决策,上下文始终连贯。
## **开放性带来最大程度的控制、安全和隐私**
开放性和可定制性相互强化。该模型随附开放权重、开放数据集和训练配方。
控制力体现在两个方向上。组织可以在安全和数据驻留要求所决定的任何地方运行模型。他们选择采用一个可以自主适配的模型,而非受制于供应商限制的模型。
以保险行业为例,定制化的智能体可以反复扫描理赔中的欺诈标记。在金融服务领域,智能体可以审查信用评分并依据组织自身的放贷标准标记异常活动。模型保留在本地。数据保持私密。
定制化通过 NVIDIA NeMo、基于 Python 的流水线和开放数据集获得支持。
Nemotron 3.5 Super VL 在[预训练](https://huggingface.co/collections/nvidia/nemotron-pre-training-datasets)和持续预训练阶段使用了约 26 万亿 token 进行训练,随后使用约 380 万条样本和涵盖数十个环境的强化学习进行了后训练。
NVIDIA 还在 Hugging Face 上发布了涵盖[智能体工具使用](https://huggingface.co/collections/nvidia/nemotron-post-training-v3)、金融、指令遵循、长上下文、公平性和视觉语言理解的开放数据集,以及 NeMo Gym 中的强化学习环境。
[NVIDIA NIM](https://www.nvidia.com/en-us/ai-data-science/products/nim-microservices/) 将该模型打包为生产就绪的微服务,提供性能优化的验证配置和企业级支持,每两周更新安全补丁和性能改进。
借助在 NVIDIA Dynamo 上运行的该模型,组织可以服务最多 8 倍的用户,同时延迟降低 85%。
Nemotron 3.5 Super VL 现已在 Hugging Face、Open Router、[ModelScope 社区](https://modelscope.ai/collections/nv-community/Nemotron-35-Super-VL)以及 NVIDIA NIM 上可用。
## **支持在 DGX Spark、DGX Station 和 RTX 上运行**
Nemotron 3.5 Super VL 覆盖 NVIDIA 全硬件栈:可在 [DGX Spark](https://www.nvidia.com/en-us/products/workstations/dgx-spark/)、[DGX Station](https://www.nvidia.com/en-us/products/workstations/dgx-station/)、RTX PRO 和 RTX 系统上实现桌面级本地智能;在 [NVIDIA Jetson](https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/) 上实现边缘端运行;并在数据中心和云环境中部署。
Nemotron 3.5 Bolt 74B-A9B 24GB(https://research.nvidia.com/labs/nemotron/Nemotron-3.5-Bolt-24GB/)现已在 Hugging Face 上发布,支持 llama.cpp、[Ollama](https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-GGUF)、[LM Studio](https://lmstudio.ai/models/nvidia/nemotron-3.5-bolt-74b-a9b)、[Unsloth](https://unsloth.ai/docs/models/nemotron-3.5-bolt) 和 [vLLM](https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB)。该模型专为 10 月 16 日上市的 [NVIDIA RTX Spark 笔记本](https://www.nvidia.com/en-us/products/rtx-spark/)构建,也可在 [GeForce RTX PC](https://www.nvidia.com/en-us/ai-on-rtx/)、[DGX Spark](https://www.nvidia.com/en-us/products/workstations/dgx-spark/)、[DGX Station](https://www.nvidia.com/en-us/products/workstations/dgx-station/) 和 [RTX PRO 工作站](https://www.nvidia.com/en-us/products/workstations/)上运行。
*下载**开放权重*(https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4)*,探索 NVIDIA NeMo 定制资源,或阅读**技术博客*(https://developer.nvidia.com/blog/nvidia-nemotron-3-5-super-vl-powers-specialized-agents-with-multimodal-reasoning/)*了解完整架构解析。*
*订阅**NVIDIA 新闻*(https://www.nvidia.com/en-us/executive-insights/generative-ai-tools/?modal=stay-inf)*、[加入社区](https://developer.nvidia.com/community),并关注 NVIDIA AI 的 **LinkedIn**(https://www.linkedin.com/showcase/nvidia-ai/posts/?feedView=all)、**Instagram**(https://www.instagram.com/nvidiaai/?hl=en)、**X**(https://x.com/NVIDIAAIDev)和 **Facebook**(https://www.facebook.com/NVIDIAAI),及时获取智能体、NVIDIA **Nemotron**(https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/)等最新动态。*
*探索**自主学习视频教程和直播*(https://youtube.com/playlist?list=PL5B692fm6--vdRKB14FImVi7MTJ77zjn4&feature=shared)*。*
*有关软件产品信息,请参阅**声明*(https://www.nvidia.com/en-eu/about-nvidia/terms-of-service/)*。*
相似文章
Reddit r/LocalLLaMA
NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B 24GB,这是一款采用原生 2-bit 量化、仅需 24GB 显存即可在本地运行日常智能体任务的视觉-语言模型,兼具速度与智能。
TLDR AI
NVIDIA 发布 Nemotron 3.5 Super VL,一款 120B 参数的多模态混合专家(MoE)模型,每 token 激活 12B 参数,面向企业级智能体工作流,支持文本、图像、文档和视频理解,单 GPU 上吞吐量较同类开源模型提升高达 5 倍,并可通过 NeMo 进行后训练定制。
Reddit r/LocalLLaMA
NVIDIA发布了Nemotron 3开放模型,提供了Nano、Super、Ultra三种尺寸,通过混合Mamba Transformer、潜在MoE和多token预测等架构创新优化硬件效率,并采用Open MDW 1.1开放许可协议。
X AI KOLs Timeline
OpenHands 宣布成为 NVIDIA Nemotron 3.5 Super VL 的发布合作伙伴,将这款开放多模态模型引入长期运行的软件工程智能体工作流,使智能体能够理解截图、仪表盘、文档和图表等非文本上下文。
X AI KOLs Following
NVIDIA 发布 Nemotron 3.5 Lightning 30B 模型,总参数30B,激活仅3B,支持100万token上下文,可商用,本地部署友好,输出速度最高提升4倍。