Nemotron Labs:开放模型如何让企业和国家拥有可信、可控且可定制的AI
摘要
NVIDIA的博客文章强调了像Nemotron这样的开放模型如何使企业和国家能够构建可信、可控且可定制的AI系统,这与限制检查和适应的封闭模型形成对比。
<div id="bsf_rt_marker"></div><p><em>编者按:本文是<a href="https://blogs.nvidia.com/blog/tag/nemotron-labs/">Nemotron Labs</a>博客系列的一部分,该系列探讨了最新的开放模型、数据集和训练技术如何帮助企业基于NVIDIA平台构建专门的AI系统和应用。每篇文章都重点介绍了使用开放堆栈在生产中交付实际价值的实用方法——从透明的研究助手到可扩展的AI智能体。</em></p>
<p><span style="font-weight: 400;">企业有很多强大的模型可供选择。真正的考验在于,企业构建的AI能否独特地满足业务需求:改进工作流程、利用领域知识以及在准确性和信任方面超越标准。 </span></p>
<p><span style="font-weight: 400;">越来越明显的是,AI的竞争优势来自于组织如何使用现有模型进行构建,而非选择哪一个模型。 </span></p>
<p><span style="font-weight: 400;">像</span><a target="_blank" href="https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/"><span style="font-weight: 400;">NVIDIA Nemotron</span></a><span style="font-weight: 400;">这样的开放模型专为定制化而设计——帮助企业和国家构建可控、可信且满足其需求的AI。 </span></p>
<h2><b>从使用AI到拥有智能</b></h2>
<p><a target="_blank" href="https://www.nvidia.com/en-us/glossary/specialized-ai/"><span style="font-weight: 400;">专业AI</span></a><span style="font-weight: 400;">,如自主智能体和应用,是使用定制的开放模型构建的。这些智能体旨在出色地完成特定任务,因为所使用的模型基于专有知识进行了微调,并根据实际业务成果进行评估。</span></p>
<p><span style="font-weight: 400;">这需要能够访问模型本身。封闭模型推动了可能性,并不断推进通用智能的前沿,但也限制了企业能够检查、调整和改进的范围。开放模型消除了这一障碍——提供了完全的拥有和控制权。</span></p>
<p><span style="font-weight: 400;">最有效的智能体AI应用是</span><a target="_blank" href="https://www.nvidia.com/en-us/glossary/multi-agent-systems/"><span style="font-weight: 400;">模型系统</span></a><span style="font-weight: 400;">,其中开放模型与领先的</span><a target="_blank" href="https://www.nvidia.com/en-us/glossary/frontier-models/"><span style="font-weight: 400;">前沿模型</span></a><span style="font-weight: 400;">协同工作,各自完成最擅长的任务。高性能</span><a target="_blank" href="https://www.nvidia.com/en-us/glossary/ai-reasoning/"><span style="font-weight: 400;">推理</span></a><span style="font-weight: 400;">模型可以处理复杂规划,而较小的模型则执行专门任务。这使得企业能够合理调整</span><a target="_blank" href="https://www.nvidia.com/en-us/glossary/ai-inference/"><span style="font-weight: 400;">推理</span></a><span style="font-weight: 400;">成本,提高特定任务的准确性,并在工作流程演进时保持灵活性。 </span></p>
<h2><b>企业可以信赖的定制化</b></h2>
<p><span style="font-weight: 400;">开放模型赋予了企业封闭模型无法提供的东西:完全的控制权,可以根据业务需求定制、检查和改进AI。公共基准衡量通用能力——但特定于业务的评估使团队能够根据自身数据、工作流程和准确性定义进行测试——然后在此基础上进行改进。</span></p>
<p><span style="font-weight: 400;">例如,在医疗和法律等行业,错误答案的代价很高,这些行业的团队处理敏感数据并面临严格的准确性要求。这些领域的组织必须能够了解模型的训练方式、性能表现,并在必要时有能力改进它。 </span></p>
<p><span style="font-weight: 400;">借助开放模型,团队可以检查其应用,根据自身标准进行私有评估,并建立针对其工作流程进行调优的</span><a target="_blank" href="https://www.nvidia.com/en-us/glossary/reinforcement-learning/"><span style="font-weight: 400;">强化学习</span></a><span style="font-weight: 400;">环境。无需将专有数据通过第三方路由。</span></p>
<p><span style="font-weight: 400;">各行各业的公司已经在将Nemotron专业化以适应其领域:</span></p>
<ul>
<li><a target="_blank" href="https://www.abridge.com/press-release/patient-centered-clinician-intelligence-platform-keynote"><b>Abridge</b><span style="font-weight: 400;">正在定制Nemotron</span></a><span style="font-weight: 400;">,以构建首个专为临床对话设计的基础模型。</span></li>
<li><a target="_blank" href="https://www.glean.com/blog/waldo-launch"><b>Glean</b><span style="font-weight: 400;">构建了Waldo</span></a><span style="font-weight: 400;">,这是一个智能体搜索模型,将Nemotron与更大的封闭模型配对,以显著更低的延迟和更少的token提供企业搜索。</span></li>
<li><b>H Company</b><span style="font-weight: 400;">通过在后训练中使用专有计算机操作数据对Nemotron 3 Nano Omni进行微调,构建了Holotron 3 Nano,在OSWorld-Verified(一项计算机任务基准测试)上达到了超过</span><a target="_blank" href="https://hcompany.ai/holotron3"><span style="font-weight: 400;">76%的准确率</span></a><span style="font-weight: 400;">,并且以极低的成本匹配了其他领先的前沿模型。</span></li>
<li><b>Harvey</b><span style="font-weight: 400;">在其法律基准上对Nemotron 3 Ultra进行了后期训练,达到了前沿级别的准确性——在复杂法律任务上匹配了领先的封闭模型,同时每次运行成本至少降低</span><a target="_blank" href="https://trajectory.ai/field-notes/harvey-nemotron-3-ultra"><span style="font-weight: 400;">10倍</span></a><span style="font-weight: 400;">。</span></li>
<li><a target="_blank" href="https://www.heidihealth.com/en-us/blog/how-heidi-improved-asr-nvidia-nemotron"><b>Heidi Health</b></a><span style="font-weight: 400;">正在临床文档中提供前沿质量的结果,而无需前沿规模的计算资源。</span></li>
<li><a target="_blank" href="https://ytlcommunity.com/shownews.asp?newsid=5613"><b>YTL AI Labs</b></a><span style="font-weight: 400;">针对马来语对Nemotron模型进行了后期训练,将本地定制的AI交到马来西亚开发者社区手中,以提升其AI能力。</span></li>
</ul>
<h2><b>微调环境与最优运行成本</b></h2>
<p><span style="font-weight: 400;">定制化提高了准确性。当模型针对特定框架或领域进行调优时,它们也能更高效地运行。 </span></p>
<p><span style="font-weight: 400;"></span><a target="_blank" href="https://www.nvidia.com/en-us/ai-data-science/products/nemo/"><span style="font-weight: 400;">NVIDIA NeMo</span></a><span style="font-weight: 400;">开源库套件加速了模型定制和评估,以及智能体优化和治理。 </span></p>
<p><span style="font-weight: 400;">像</span><b>Prime Intellect</b><span style="font-weight: 400;">和</span><b>Unsloth</b><span style="font-weight: 400;">这样的合作伙伴已经能够为在Nemotron上构建后期训练管线的企业提供AI定制化服务,使得大规模运行专业AI成为现实。</span><b> </b></p>
<p><a href="https://blogs.nvidia.com/blog/nemotron-langchain-agents-open-stack/"><b>LangChain</b></a><span style="font-weight: 400;">对Nemotron 3 Ultra调优了其Deep Agents框架——调整了提示、工具</span></p>
查看缓存全文
缓存时间: 2026/07/14 22:16
# Nemotron Labs:开放模型如何让企业和国家获得可信任、可控、可自定义的 AI
来源:https://blogs.nvidia.com/blog/nemotron-open-models-ai-trust-control-customize/
*编者按:本文是Nemotron Labs (https://blogs.nvidia.com/blog/tag/nemotron-labs/) 博客系列的一部分,该系列探讨了最新的开放模型、数据集和训练技术如何帮助企业基于 NVIDIA 平台构建专业化 AI 系统和应用。每篇文章都会重点介绍使用开放栈在生产环境中交付真正价值的实用方法——从透明的研究助手到可扩展的 AI 智能体。*
企业有很多强大的模型可以选择。真正的考验在于,企业构建的 AI 能否独特地满足业务需求:改进工作流、利用领域知识、并超越准确性和信任的标准。
如今,竞争力的 AI 优势越来越来自于组织如何使用现有模型进行构建,而非选择了哪个模型。
像 NVIDIA Nemotron (https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/) 这样的开放模型专为自定义而构建——帮助企业和国家构建可控、可信且贴合自身需求的 AI。
## **从使用 AI 到拥有智能**
专业化 AI (https://www.nvidia.com/en-us/glossary/specialized-ai/)(例如自主智能体和应用)是基于自定义的开放模型构建的。这些智能体旨在出色地完成特定任务,因为所使用的模型是基于专有知识进行调优,并根据实际业务成果进行评估。
这需要能够访问模型本身。封闭模型推动了可能性的边界,并不断推进通用智能的前沿 (https://www.nvidia.com/en-us/glossary/frontier-models/),但也给企业可以检查、调优和改进的能力设定了上限。开放模型消除了这个障碍——提供了完全的拥有权和控制力。
最有效的智能体 AI 应用是多模型系统 (https://www.nvidia.com/en-us/glossary/multi-agent-systems/),开放模型与领先的前沿模型 (https://www.nvidia.com/en-us/glossary/frontier-models/) 协同工作,各自完成自己最擅长的任务。高性能推理 (https://www.nvidia.com/en-us/glossary/ai-reasoning/) 模型可以处理复杂规划,而较小的模型则执行专业化任务。这使得企业能够合理优化推理 (https://www.nvidia.com/en-us/glossary/ai-inference/) 成本,提高特定任务的准确性,并在工作流演进过程中保持灵活性。
## **企业可以信任的自定义**
开放模型给予企业封闭模型无法提供的东西:完全控制权,以根据业务需求自定义、检查和改进 AI。公共基准衡量的是通用能力——但针对业务特定评估可以让团队针对自己的数据、工作流和准确度定义进行测试,然后从那里开始改进。
例如,在医疗和法律等行业,错误答案的成本很高,这些团队处理敏感数据且面临严格的准确性要求。这些行业的组织必须能够清楚地了解模型是如何训练的、它的性能如何,以及必要时改进它的能力。
借助开放模型,团队可以检查他们的应用,根据自有标准运行私有评估,并建立针对自身工作流调优的强化学习 (https://www.nvidia.com/en-us/glossary/reinforcement-learning/) 环境。无需将他们的专有数据路由给第三方。
各行各业的公司已经在将 Nemotron 专业化应用于其领域:
- **Abridge** 正在自定义 Nemotron (https://www.abridge.com/press-release/patient-centered-clinician-intelligence-platform-keynote),以构建首个专为临床对话定制的基础模型。
- **Glean** 构建了 Waldo (https://www.glean.com/blog/waldo-launch),这是一个智能体搜索模型,将 Nemotron 与更大的封闭模型配对,以显著更低的延迟和更少的 token 提供企业搜索。
- **H Company** 通过对 Nemotron 3 Nano Omni 进行后训练(使用专有计算机使用数据)构建了 Holotron 3 Nano,在 OSWorld-Verified (https://hcompany.ai/holotron3)(一个计算机任务基准)上实现了超过 76% 的准确率,并以极低的成本匹配了其他领先的前沿模型。
- **Harvey** 在其法律基准上对 Nemotron 3 Ultra 进行了后训练,达到了前沿级别的准确性——在复杂法律任务上匹配了领先的封闭模型,每次运行成本至少低 10 倍 (https://trajectory.ai/field-notes/harvey-nemotron-3-ultra)。
- **Heidi Health** (https://www.heidihealth.com/en-us/blog/how-heidi-improved-asr-nvidia-nemotron) 在临床文档方面交付了前沿质量的结果,无需前沿规模的计算能力。
- **YTL AI Labs** (https://ytlcommunity.com/shownews.asp?newsid=5613) 对 Nemotron 模型进行了针对马来西亚语的后训练,将本地自定义的 AI 交到马来西亚开发者社区手中,以进一步增强其 AI 能力。
## **微调环境与最佳运行成本**
自定义提高了准确性。当模型针对特定框架或领域进行调优时,它们的运行效率也更高。
NVIDIA NeMo (https://www.nvidia.com/en-us/ai-data-science/products/nemo/) 开放库套件加速了模型自定义和评估,以及智能体优化和治理。
像 **Prime Intellect** 和 **Unsloth** 这样的合作伙伴已经在支持企业在 Nemotron 上构建后训练管道的 AI 自定义,使大规模运行专业化 AI 变得切实可行。
**LangChain** (https://blogs.nvidia.com/blog/nemotron-langchain-agents-open-stack/) 为其 Deep Agents 框架针对 Nemotron 3 Ultra 进行了调优——调整了提示、工具和中间件,无需重新训练模型——在开放模型中实现了顶级智能体准确率,每次运行成本比领先的封闭替代方案低约 10 倍。
这些成本优势还延伸到基础设施,以实现最佳可扩展性。通过在 NVIDIA Blackwell 平台上对 Nemotron 进行后训练,**Arcee AI** (https://www.nvidia.com/en-us/case-studies/arcee-ai/) 实现了每百万输出 token 约 90 美分的推理成本——比可比的封闭前沿模型便宜约 20 倍——同时在 PinchBench 上排名第二,并保持完全开放的权重。
成本节约带来了更广泛的实验、更多部署以及更快的迭代。
## **在开放基础上构建生态**
从 AI 采用到 AI 拥有的转变正在进行中。NVIDIA Nemotron 联盟 (https://nvidianews.nvidia.com/news/nvidia-launches-nemotron-coalition-of-leading-global-ai-labs-to-advance-open-frontier-models) 正在将开放模型开发转变为生态系统级别的努力,将模型构建者和开发者聚集在一起,通过共享数据、评估和领域专业知识来改进 Nemotron。此外,黑客马拉松提交和社区贡献也产生了跨行业的可复用证明资产。
构建者们正在将 Nemotron 添加到他们的 AI 系统中,验证其价值并分享有效的方法。这个基础是完全开放的。
*了解更多关于 **NVIDIA Nemotron 开放模型** (https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/) 的信息,并前往 **build.nvidia.com** (https://build.nvidia.com/) 试用。*
相似文章
开放模型,封闭环境:Palantir 借助 NVIDIA Nemotron 为美国机构带来安全 AI
Palantir 和 NVIDIA 合作,将 Nemotron 开放模型部署到美国政府的隔离环境中,实现安全、可定制的 AI,并完全掌控数据。
AI的未来是开放与专有并存
英伟达CEO黄仁勋认为,AI的未来需要开放与专有模型作为协同编排系统共同发挥作用。英伟达宣布成立NVIDIA Nemotron Coalition,这是一个推动开源前沿模型发展的全球性合作计划,其基础模型由Mistral AI与NVIDIA联合开发。
"How NVIDIA Built Nemotron 3 Open Model" by "Caleb Writes Code" x "Joey Conway"
NVIDIA发布了Nemotron 3开放模型,提供了Nano、Super、Ultra三种尺寸,通过混合Mamba Transformer、潜在MoE和多token预测等架构创新优化硬件效率,并采用Open MDW 1.1开放许可协议。
已成定局:Nvidia的AI之父之一不认同AGI,他将OpenAI和Anthropic的封闭模型比作AOL和Prodigy的封闭互联网,并称未来每个企业都将拥有定制化的开源模型。
NVIDIA的Bryan Catanzaro认为,封闭的AI模型类似于早期围墙花园(如AOL),而未来是每个企业都能拥有定制化的开源模型,全球合作中,中国在开放性方面处于领先地位。
开放模型如何推动AI研究
NVIDIA强调,开放前沿模型和AI基础设施正在推动AI研究,这体现在ICML 2026接收的论文中,涵盖机器人学、生命科学和合成数据等领域。