NVIDIA CEO黄仁勋在戴尔科技世界大会上表示:‘需求正呈现抛物线式增长,完全是抛物线式增长’

NVIDIA Blog 新闻

摘要

在戴尔科技世界大会上,NVIDIA CEO黄仁勋宣布AI需求‘完全是抛物线式增长’,并推出了搭载全新NVIDIA Vera Rubin和Vera CPU系统的戴尔AI工厂,用于规模化智能体AI推理,同时大幅提升性能并降低成本。

<div id="bsf_rt_marker"></div><p><span style="font-weight: 400;">以每 token 成本十分之一的代价实现智能体AI推理——借助</span><a target="_blank" href="http://nvidia.com/en-us/data-center/vera-rubin-nvl72/"><span style="font-weight: 400;">NVIDIA Vera Rubin NVL72</span></a><span style="font-weight: 400;">。智能体沙盒在</span><a target="_blank" href="https://www.nvidia.com/en-us/data-center/vera-cpu/"><span style="font-weight: 400;">NVIDIA Vera</span></a><span style="font-weight: 400;">上运行比传统CPU快50%——而企业数据查询使用Vera CPU后速度提升高达</span><span style="font-weight: 400;">3倍</span><span style="font-weight: 400;">。如今,已有Lilly、Samsung、Honeywell等</span><span style="font-weight: 400;">5,000</span><span style="font-weight: 400;">家企业依托戴尔与NVIDIA合作的AI工厂运行AI工作负载,将雄心转化为规模化生产。</span></p> <p><span style="font-weight: 400;">这是Michael Dell周一上午在戴尔科技世界大会上描绘的图景。Dell评估了形势:到2030年,全球AI基础设施支出可能达到3-4万亿美元,同期token消耗量预计增长3,400%。</span></p> <p><span style="font-weight: 400;">“一场大规模的AI投资热潮已经展开,生产力革命也正在启动——在某些公司,包括我们自己的公司,都是如此,”Dell说,“变化的速度已经呈抛物线式增长,而且丝毫没有放缓。”</span></p> <p><span style="font-weight: 400;">随后,这位戴尔董事长兼CEO邀请NVIDIA创始人兼CEO黄仁勋登台演讲——台上展示着NVIDIA的产品组合,从桌面级的Dell Pro Max(搭载GB10工作站)到配备NVIDIA Vera Rubin NVL72的Dell PowerRack。</span></p> <p><span style="font-weight: 400;">“我们现在已经进入了实用AI的时代,这就是需求呈现抛物线式增长、完全是抛物线式增长的原因,”黄仁勋说,“过去需要数月的工作,现在只需数周;过去需要数周的,现在只需数天;过去需要数天的,现在只需数小时。这对生产力来说意义重大,但对计算需求而言则是一次巨大飞跃。”</span></p> <p><span style="font-weight: 400;">传递的信息是:企业AI已从试点阶段跨入智能体AI和大规模推理部署阶段。未来的平台就是戴尔与NVIDIA合作的AI工厂——在企业防火墙内安全运行前沿模型和自主智能体。</span></p> <h2><b>面向智能体时代的新AI工厂</b></h2> <p><span style="font-weight: 400;">加速计算领域的新闻引领着这一轮更新:基于NVIDIA Vera Rubin NVL72打造的Dell PowerEdge XE9812,在超大规模智能体AI推理方面,每token成本比NVIDIA Blackwell降低高达10倍。</span></p> <p><span style="font-weight: 400;">一同亮相的还有PowerEdge XE9880L、XE9885L和XE9882L服务器——首批基于</span><a target="_blank" href="https://www.nvidia.com/en-us/data-center/hgx/"><span style="font-weight: 400;">NVIDIA HGX Rubin NVL8</span></a><span style="font-weight: 400;">的戴尔系统,每机架支持多达144个GPU,100%采用直接液冷计算节点,性能可达HGX B200的5.5倍。</span></p> <p><span style="font-weight: 400;">此外,网络方面新增了配备</span><a target="_blank" href="https://www.nvidia.com/en-us/networking/products/infiniband/quantum-x800/"><span style="font-weight: 400;">NVIDIA Quantum-X800 InfiniBand</span></a><span style="font-weight: 400;">的全新Dell PowerSwitch产品组合,采用液冷共封装光学器件和</span><a target="_blank" href="https://www.nvidia.com/en-us/networking/spectrumx/"><span style="font-weight: 400;">NVIDIA Spectrum-6以太网</span></a><span style="font-weight: 400;">。</span></p> <p><span style="font-weight: 400;">戴尔还推出了Dell PowerRack,这是一款完全集成的系统——计算、网络和存储一体化设计——热设计、电源管理和软件优化从底层开始协同工作。其结果是,企业级加速计算和HPC工作负载得以规模化运行,无需因组件组装而承担集成负担。</span></p> <p><span style="font-weight: 400;">在CPU方面,Dell PowerEdge M9822和R9822服务器将NVIDIA Vera CPU引入企业AI工厂。Vera专为智能体AI打造,运行数据管道、分析、沙盒工具和代码工作负载,这些任务的每一步都依赖于上一步的结果。</span></p> <p><span style="font-weight: 400;">凭借1.2 TB/s的内存带宽和负载下可预测的性能,Vera完成智能体工作负载的速度比x86处理器快50%,帮助PowerEdge系统通过更快的智能体响应和更短的反馈循环提升AI工厂的产出。</span></p> <p><span style="font-weight: 400;">“Vera CPU拥有全球所有CPU中最高的单线程性能,”黄仁勋说,“它的内存带宽是普通CPU的三倍——因此,Starburst、DuckDB等所有数据库的运行速度都极快,因为智能体在频繁访问数据库,所以CPU必须非常快。”</span></p> <p><span style="font-weight: 400;">Starburst是戴尔与NVIDIA合作的AI数据平台中的新数据引擎,在NVIDIA Vera CPU上,大型SQL分析查询吞吐量提升了3倍。</span></p> <p><span style="font-weight: 400;">企业数据为AI工厂提供燃料。戴尔与NVIDIA合作的AI数据平台的最新更新,聚焦于基于</span><a target="_blank" href="https://www.nvidia.com/en-us/technologies/cuda-x/"><span style="font-weight: 400;">NVIDIA CUDA-X</span></a><span style="font-weight: 400;">库构建的加速数据引擎——包括面向结构化数据的cuDF和面向非结构化数据的cuVS。</span></p> <p><span style="font-weight: 400;">主题演讲中重点介绍了多位戴尔与NVIDIA合作AI工厂的客户。</span></p> <p><span style="font-weight: 400;">Lilly的执行副总裁兼首席信息与数字官Diogo Rau在演讲初期登台——讨论Lilly由戴尔和NVIDIA规模化部署的AI基础设施推动的生命科学领域AI驱动创新与进步。</span><span style="font-weight: 400;"><br /> </span><span style="font-weight: 400;"><br /> </span><span style="font-weight: 400;">他将技术描述为规模化实现尖端科学的关键。“我认为我们可能正处于终结已知疾病的边缘,”Rau说,“这种事情在20年前完全无法想象,但今天我们可以想象。”</span></p> <p><span style="font-weight: 400;">随后播放了Samsung的视频——重点介绍了在戴尔与NVIDIA合作AI工厂上运行的芯片设计与制造研发用例。</span></p> <p><span style="font-weight: 400;">Honeywell首席技术官Suresh Venkatarayalu与Michael Dell一起介绍了该公司从公有云向本地AI迁移的过程——使用戴尔AI工厂和戴尔与NVIDIA合作的AI数据平台,实现从数据中心到边缘的工业AI用例、数字孪生和自动化。</span><span style="font-weight: 400;"><br /> </span><span style="font-weight: 400;"><br /> </span><span style="font-weight: 400;">“对我来说,与戴尔和NVIDIA合作不仅仅是为了获取基础设施,”Venkatarayalu说,他解释到,这是完整的AI栈:可扩展、安全且受客户信任。</span></p> <p><span style="font-weight: 400;">在金融服务领域,算法交易公司Hudson River Trading正在扩展其戴尔部署,以支持AI驱动的研究——运行搭载NVIDIA加速计算和NVIDIA Spectrum-X以太网的Dell PowerEdge XE9685L服务器,实现规模化扩展。</span></p>
查看原文
查看缓存全文

缓存时间: 2026/05/19 00:33

# NVIDIA 首席执行官黄仁勋在戴尔科技世界大会上表示:"需求正呈抛物线式增长,彻底爆发" 来源:https://blogs.nvidia.com/blog/dell-technologies-agent-enterprise-ai/ 基于 NVIDIA Vera Rubin NVL72(http://nvidia.com/en-us/data-center/vera-rubin-nvl72/)的智能体 AI 推理,每 token 成本降低至十分之一。在 NVIDIA Vera(https://www.nvidia.com/en-us/data-center/vera-cpu/)上运行的智能体沙盒速度比传统 CPU 快 50%——而企业数据查询使用 Vera CPU 的速度最高提升 3 倍。此外,已有 5,000 家企业(如 Lilly、Samsung 和 Honeywell)在采用 NVIDIA 的 Dell AI 工厂上运行 AI 工作负载,将雄心转化为规模化生产。 这是迈克尔·戴尔周一上午在戴尔科技世界大会上描绘的景象。戴尔指出了其中的利害关系:到 2030 年,全球 AI 基础设施支出可能达到 3 至 4 万亿美元,而同期 token 消耗量预计将增长 3,400%。 "一场大规模的 AI 投资热潮已经展开,生产率提升也正在开始,在一些公司(包括我们公司)已经显现,"戴尔表示。"变化的速度已经呈现抛物线式增长,而且丝毫没有放缓的迹象。" 随后,戴尔这位董事长兼首席执行官欢迎 NVIDIA 创始人兼首席执行官黄仁勋登台演讲——黄仁勋身后展示着 NVIDIA 产品组合,从配备 GB10 工作站的桌面级 Dell Pro Max,到搭载 NVIDIA Vera Rubin NVL72 的 Dell PowerRack。 "我们现在已经进入了实用型 AI 时代,这就是需求呈抛物线式增长、彻底爆发的原因,"黄仁勋说。"过去需要几个月的事情现在只需几周,过去需要几周的现在只需几天,过去需要几天的现在只需几小时。这在生产力方面意义重大,但在计算需求上则是一个巨大的飞跃。" 核心信息是:企业 AI 已从试点阶段迈入智能体 AI 和大规模推理部署阶段。下一个阶段的基础平台就是采用 NVIDIA 的 Dell AI 工厂——在前沿模型和自主智能体安全地运行在企业边界之内。 ## **面向智能体时代的新型 AI 工厂** 加速计算领域的消息率先刷新了产品线:基于 NVIDIA Vera Rubin NVL72 打造的 Dell PowerEdge XE9812,在大规模智能体 AI 推理任务中,每 token 成本比 NVIDIA Blackwell 降低高达 10 倍。 一同推出的还有 PowerEdge XE9880L、XE9885L 和 XE9882L 服务器——首批基于 NVIDIA HGX Rubin NVL8(https://www.nvidia.com/en-us/data-center/hgx/)打造的 Dell 系统,每个机架支持最多 144 个 GPU,配备 100% 直接液冷计算节点,性能可达 HGX B200 的 5.5 倍。 在网络方面,全新 Dell PowerSwitch 产品组合采用了 NVIDIA Quantum-X800 InfiniBand(https://www.nvidia.com/en-us/networking/products/infiniband/quantum-x800/),配备液冷共封装光学器件和 NVIDIA Spectrum-6 以太网(https://www.nvidia.com/en-us/networking/spectrumx/)。 戴尔还推出了 Dell PowerRack,一个完全集成的系统——计算、网络和存储一体化设计——其散热设计、电源管理和软件优化从一开始就协同工作。其结果是,无需组件集成的开销,即可在企业规模上加速 AI 和高性能计算工作负载。 在 CPU 方面,Dell PowerEdge M9822 和 R9822 服务器将 NVIDIA Vera CPU 引入企业 AI 工厂。Vera 专为智能体 AI 打造,运行数据管道、分析、沙盒工具和代码工作负载,每一步都依赖于上一步的结果。 凭借 1.2 TB/s 的内存带宽和负载下可预测的性能,Vera 完成智能体工作负载的速度比 x86 处理器快 50%,帮助 PowerEdge 系统通过更快的智能体响应和更短的反馈循环来提升 AI 工厂的产出。 "Vera CPU 拥有世界上所有 CPU 中最高的单线程性能,"黄仁勋说。"它的内存带宽是其他 CPU 的三倍——因此,Starburst、DuckDB 等所有数据库的运行速度都非常快,因为智能体会频繁访问数据库,所以 CPU 必须非常快。" Starburst 是采用 NVIDIA 的 Dell AI 数据平台中的一款新型数据引擎,在 NVIDIA Vera CPU 上为大规模 SQL 分析提供 3 倍的查询吞吐量。 企业数据为 AI 工厂提供燃料。戴尔对其采用 NVIDIA 的 AI 数据平台进行了更新,核心是基于 NVIDIA CUDA-X(https://www.nvidia.com/en-us/technologies/cuda-x/)库构建的加速数据引擎——包括用于结构化数据的 cuDF 和用于非结构化数据的 cuVS。 主题演讲中重点介绍了多个采用 NVIDIA 的 Dell AI 工厂的客户。 Lilly 公司执行副总裁兼首席信息与数字官 Diogo Rau 在主题演讲早期加入,讨论了 Lilly 在生命科学领域由 AI 驱动的进展和创新,这些成果由戴尔与 NVIDIA 联合部署的大规模 AI 基础设施提供支持。他将技术描述为大规模提供尖端科学的关键。"我认为我们可能正处于能够终结我们所知的疾病的边缘,"Rau 表示。"类似的事情在 20 年前是完全无法想象的,但今天我们能够想象。" 随后播放了一段来自 Samsung 的视频,重点介绍了在采用 NVIDIA 的 Dell AI 工厂上运行的研发芯片设计和制造用例。 Honeywell 首席技术官 Suresh Venkatarayalu 与迈克尔·戴尔一同上台,讲述了该公司从公有云转向本地 AI 的过程——利用 Dell AI 工厂和采用 NVIDIA 的 Dell AI 数据平台,实现从数据中心到边缘的工业 AI 用例、数字孪生和自动化。"对我来说,与戴尔和 NVIDIA 合作不仅仅是获得基础设施,"Venkatarayalu 表示。他解释说,这关乎完整的 AI 堆栈:可扩展、安全且受客户信赖。 在金融服务领域,算法交易公司 Hudson River Trading 正在扩展其 Dell 部署,以支持 AI 驱动的研究——运行配备 NVIDIA 加速计算和 NVIDIA Spectrum-X 以太网的 Dell PowerEdge XE9685L 服务器,以适应公司的数据、模型和雄心。 ## **本地部署的智能体与模型——安全可靠** 戴尔自己的 AI 采用率调查(在主题演讲中被引用)发现,67% 的 AI 工作负载现在运行在云端之外——包括本地、设备端、边缘或托管环境中——并且 88% 的受访者至少运行一个 AI 工作负载在本地。 本地 AI 的发布回答了戴尔直接向现场提出的一个问题:"如何在需要的地方部署世界上最好的 AI 模型,并内置安全性和治理能力?" 答案在于 NVIDIA 机密计算(https://www.nvidia.com/en-us/data-center/solutions/confidential-computing/)——与 Fortanix、Google、Red Hat 及其他合作伙伴共同交付——作为在企业内部安全部署前沿模型而不暴露模型 IP 或数据的基础。 这使得企业能够保护使用中的 AI 模型和敏感数据,同时享受本地 AI 基础设施的 token 效率、性能和成本优势。 ## **前沿专有模型,由机密计算保护** 搭载 Gemini 3.0 的 Google Distributed Cloud(GDC)现已在 Dell PowerEdge XE9780 服务器上提供预览版,由 NVIDIA Blackwell 加速,并通过 NVIDIA 机密计算保护——为企业高级 AI 提供私有机密计算环境。 SpaceXAI 也将把最新的 SpaceXAI 模型引入本地部署的 Dell AI 工厂,通过 NVIDIA 机密计算端到端地保护模型权重和企业数据。 ## **开放前沿模型,原生运行于 Dell AI 工厂** NVIDIA Nemotron(https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/)模型——前沿级别的开放智能——运行在 Dell AI 工厂基础设施上,供希望使用针对自身领域和数据调优的开放权重模型的企业使用。 Reflection 的开源前沿 AI 模型也将进入本地部署,专为受监管行业、政府和主权实体打造。 其他开放模型——MiniMax-M2.7、DeepSeek Pro、DeepSeek-V4、GLM 5.1 和采用 NVIDIA NVFP4 优化的 Kimi K2.6——现已在 Hugging Face 上的 Dell Enterprise Hub 中提供,加入了 Gemma 4、NVIDIA Nemotron Super 3、Mistral Small 4 和 Arcee Trinity-Large-Thinking 的行列。 在这个新的智能体时代,企业还需要智能体能够在其数据、系统和工作流已经存在的混合环境和本地环境中安全工作。 OpenAI Codex 将连接 Dell AI 数据平台,帮助客户将 Codex 更贴近内部上下文——代码库、文档、业务系统、运营知识和团队工作流——这些上下文使智能体变得有用。戴尔和 OpenAI 还将探索 Codex 如何与 Dell AI 工厂连接。 ## **软件合作伙伴生态系统** 戴尔宣布了多个新的软件合作伙伴关系,涉及从智能体 AI 和代码助手到计算机视觉等常见企业 AI 用例。其中包括 Palantir 于 3 月宣布的、采用 NVIDIA 的主权 AI 操作系统参考架构(https://www.palantir.com/sovereignaios/),现在该架构运行在戴尔基础设施上——用于本地部署 Palantir 本体论和 AIP,并与 NVIDIA 主权 AI 操作系统参考架构集成。此外,ServiceNow 客户将能够利用 Dell AI 工厂将基础设施和企业工作流自动化结合起来,使组织能够发现、治理和运营以实现业务成果为重点的 AI。 戴尔还宣布了与众多 AI 领导者和软件创新者的新解决方案——包括 Fogsphere、Ipsotek、Mistral AI、Poolside 和 Uneeq——以及与 CrowdStrike 和 Fortanix 的安全合作伙伴关系。 ## **从桌面到数据中心的智能体** 最贴近个人的消息:Dell Deskside Agentic AI 采用 NVIDIA NemoClaw(https://www.nvidia.com/en-us/ai/nemoclaw/)堆栈、NVIDIA OpenShell(https://build.nvidia.com/openshell)运行时和 NVIDIA Nemotron(https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/)开放模型,运行在搭载 NVIDIA Grace Blackwell 架构的 Dell Pro Max 与 GB10(https://www.nvidia.com/en-us/products/workstations/dgx-spark/)和 GB300(https://www.nvidia.com/en-us/products/workstations/dgx-station/)上,以及搭载 NVIDIA RTX PRO(https://www.nvidia.com/en-us/products/workstations/)Blackwell 工作站平台的 Dell Pro Precision 系统上。 定制化层:NVIDIA Nemotron、NVIDIA Agent Toolkit 和 NVIDIA NeMoClaw——黄仁勋在台上描述为本地模型与企业数据之间的连接层——为企业自主智能体的构建提供了基础,使组织能够定制模型、编排智能体工作流,并将智能体安全地连接到企业数据和工具。 安全层:NVIDIA OpenShell——一个用于开发和部署自主智能体的开源运行时,具有安全性和隐私控制——能够在基础设施层实施企业策略,并与领先的企业软件平台集成。 NVIDIA OpenShell 现在支持整个采用 NVIDIA 的 Dell AI 工厂,为开发者提供了一个安全运行时,用于从工作站到服务器构建、部署和治理 AI 智能体。 戴尔还强调了对 NVIDIA AI-Q Blueprint(https://build.nvidia.com/nvidia/aiq)的支持,为企业提供了一个参考示例,用于部署用于深度研究的多智能体工作流——加速从开发到试点再到生产的进程。 ## **第二天** 在戴尔科技世界大会的第二天,戴尔首席运营官 Jeff Clarke 和基础设施解决方案集团总裁 Arthur Lewis 将深入探讨 NVIDIA Vera CPU、Vera Rubin、机密计算和 Nemotron——并进行 Dell Deskside Agentic AI 的现场演示。 黄仁勋和戴尔周一设定的主题——安全、长时间运行的智能体、全栈工厂、安全的本地部署——为 NVIDIA 将在 6 月 1 日至 4 日举行的 COMPUTEX 台北 GTC(https://www.nvidia.com/en-tw/gtc/taipei/)上发布的更广泛公告奠定了基础。

相似文章