专为Vera Rubin打造,NVIDIA Spectrum-6进入千兆级AI工厂

NVIDIA Blog 产品

摘要

NVIDIA宣布推出专为Vera Rubin平台打造的Spectrum-6 102.4太比特/秒以太网交换系统,现已进入千兆级AI工厂。其容量是上一代产品的两倍,正被主要AI基础设施构建商采用,以加速训练和推理。

<div id="bsf_rt_marker"></div><p><span style="font-weight: 400;">人工智能已进入千兆级时代。</span></p> <p><span style="font-weight: 400;">全球最先进的AI工厂正汇集数十万个GPU和CPU,用于训练前沿模型、驱动代理式AI,并以空前的规模生成智能。在这个层面上,网络成为驱动token生成的关键算力倍增器。</span></p> <p><span style="font-weight: 400;">作为网络领域的一个里程碑,NVIDIA Spectrum-6——一个102.4太比特/秒的以太网交换系统,其容量是上一代系统的两倍,并且是NVIDIA Vera Rubin平台的一部分——正陆续部署到全球的千兆级AI工厂。</span></p> <p><span style="font-weight: 400;">Spectrum-6支撑着下一代</span> <a target="_blank" href="https://www.nvidia.com/en-us/networking/products/ethernet/"><span style="font-weight: 400;">NVIDIA Spectrum-X以太网平台</span></a><span style="font-weight: 400;">,提供将AI工厂作为一个端到端计算系统运行所需的带宽、规模和智能。</span></p> <h2><b>领先的AI构建者率先行动</b></h2> <p><span style="font-weight: 400;">全球领先的AI基础设施构建商——包括</span><span style="font-weight: 400;">CoreWeave</span><span style="font-weight: 400;">、</span><span style="font-weight: 400;">Microsoft</span><span style="font-weight: 400;">、</span><a target="_blank" href="https://www.linkedin.com/posts/weve-taken-delivery-of-the-nvidia-spectrum-share-7482439731604111360-pFBr/?utm_source=share&amp;utm_medium=member_desktop&amp;rcm=ACoAABUrN-QB_Rjwitv9tDPFRHv6YkI4nwq9I90"><span style="font-weight: 400;">Nebius</span></a><span style="font-weight: 400;">、</span><span style="font-weight: 400;">SpaceXAI</span><span style="font-weight: 400;">和</span><span style="font-weight: 400;">Tesla</span><span style="font-weight: 400;">——将率先引入Spectrum-6来加速其AI工厂。</span></p> <p><span style="font-weight: 400;">对于云服务提供商而言,Spectrum-6意味着更多的计算能力可以作为统一的、高性能的资源运行,帮助客户更快地训练模型和部署推理服务。</span></p> <p><span style="font-weight: 400;">“CoreWeave专为最苛刻的AI工作负载而构建,网络是规模化交付这种性能的关键,”CoreWeave网络产品总监</span><span style="font-weight: 400;">Min Jun</span><span style="font-weight: 400;">表示。“将NVIDIA Spectrum-6和液冷Spectrum-X以太网基础设施引入我们的AI工厂,将帮助我们提供客户所需的带宽、弹性和效率,以更快地训练前沿模型和部署推理。” </span></p> <p><span style="font-weight: 400;">“在千兆级规模下,性能取决于协调:让每个GPU保持同步,这样一条慢速链路就不会拖慢整个任务,”Nebius全球合作伙伴副总裁</span><span style="font-weight: 400;">Laurelle Roseman</span><span style="font-weight: 400;">表示。“这正是NVIDIA Spectrum-6所追求的,也是我们早期引入它的原因——一个随着客户最苛刻工作负载扩展而保持快速和弹性的网络结构。” </span></p> <p><span style="font-weight: 400;">对于构建自有基础设施的AI先驱来说,Spectrum-6意味着更多GPU同步工作、在苛刻的集体操作中实现更高利用率,以及更强大的长期运行作业弹性。</span></p> <p><span style="font-weight: 400;">在各个用例中,最终结果是在非凡规模下更快地获得结果和更好的经济性。</span></p> <p><span style="font-weight: 400;">CoreWeave</span><span style="font-weight: 400;">、</span><span style="font-weight: 400;">Microsoft</span><span style="font-weight: 400;">和</span><span style="font-weight: 400;">Nebius</span><span style="font-weight: 400;">将成为首批部署基于NVIDIA Vera Rubin并采用Spectrum-6的基础设施的提供商,从而将平台访问权限扩展到广泛的开发者、初创企业和企业社区。</span></p> <h2><b>AI性能是一个网络问题</b></h2> <p><span style="font-weight: 400;">仅凭GPU峰值性能已无法预测AI工厂的性能。</span></p> <p><span style="font-weight: 400;">大规模训练和推理工作负载依赖于数千个加速器持续交换数据。集体通信是跨GPU同步工作的基本操作,会产生密集的东西向流量,通常许多系统同时传输。</span></p> <p><span style="font-weight: 400;">以太网最初是为企业应用和用户、服务器与存储之间的南北向流量而设计的,并非为千兆级AI的同步、高集体通信模式而创建。</span></p> <p><span style="font-weight: 400;">Spectrum-X以太网改变了这一点。它专为AI而构建,将以太网转变为高性能横向扩展架构,旨在让每个GPU持续获得数据。</span></p> <h2><b>下一代Spectrum-X以太网</b></h2> <p><span style="font-weight: 400;">Spectrum-6交换芯片与NVIDIA ConnectX-9 SuperNIC相结合,构成下一代Spectrum-X以太网,并作为NVIDIA Vera Rubin的一部分进行设计,</span><a target="_blank" href="https://nvidianews.nvidia.com/news/rubin-platform-ai-supercomputer"><span style="font-weight: 400;">汇聚了</span></a><span style="font-weight: 400;">NVIDIA Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU和Spectrum-6以太网交换。</span></p> <p><span style="font-weight: 400;">Spectrum-6支持可插拔和共封装光学模块形式。此外,Spectrum-6产品支持液冷,为整个AI工厂实现全面的端到端冷却方案,同时提高网络能效。</span></p> <p><span style="font-weight: 400;">与现成以太网不同,用于AI工厂横向扩展的NVIDIA Spectrum-X以太网网络平台结合了智能交换机、NVIDIA ConnectX-9 SuperNIC和全栈网络软件,全部针对AI进行协同工程设计。该平台的高级功能持续优化流量在网络结构中的移动方式。</span></p> <p><span style="font-weight: 400;">此外,NVIDIA Spectrum-X技术智能地在可用路径间平衡流量,快速绕过故障,并在网络上传输的数据未能到达目的地时精确恢复。此外,支持开放网络操作系统和多种RDMA传输模型选择,为AI构建者提供了灵活性而不牺牲性能。</span></p> <p><span style="font-weight: 400;">Spectrum-X以太网是NVIDIA垂直集成、水平开放方法的固有组成部分:跨整个计算平台协同设计芯片、系统和软件,同时支持标准以太网、开放网络操作系统、开放协议以及由云提供商、系统制造商和基础设施合作伙伴组成的广泛生态系统。客户无需组装一堆零件并后续优化,即可获得一个完整的AI工厂平台,旨在实现最快的训练时间和最低的每token成本。</span></p> <p><span style="font-weight: 400;">这种方法证明,Spectrum-X以太网比现成以太网提供高达1.6倍的AI网络性能,并在超过10万个GPU的部署中保持高达95%的网络效率。</span></p> <p><span style="font-weight: 400;">硬件加速的Spectrum-X多平面拓扑将数据中心所需的交换机数量减少1.7倍,从而进一步提高网络效率。进一步叠加通过Spectrum-X E实现的好处</span></p>
查看原文
查看缓存全文

缓存时间: 2026/07/21 18:37

# 专为Vera Rubin打造,NVIDIA Spectrum-6入驻千兆级AI工厂 来源:https://blogs.nvidia.com/blog/nvidia-spectrum-six-arrives-in-gigascale-ai-factories/ AI已进入千兆级时代。 全球最先进的AI工厂正将数十万个GPU和CPU整合在一起,用于训练前沿模型、驱动智能体AI,并以前所未有的规模生成智能。在这一层级上,网络成为提升算力的关键倍增器,直接推动令牌生成。 标志着网络里程碑的NVIDIA Spectrum-6——一款102.4太比特每秒的以太网交换机系统,容量是上一代系统的2倍,且作为NVIDIA Vera Rubin平台的一部分打造——正陆续抵达全球的千兆级AI工厂。 Spectrum-6锚定了下一代NVIDIA Spectrum-X以太网平台,提供将AI工厂作为一个端到端计算系统运行所需的带宽、规模和智能。 ## **领先的AI建设者率先行动** 全球领先的AI基础设施建设者——包括CoreWeave、Microsoft、Nebius、SpaceX AI和Tesla——将率先引入Spectrum-6以加速其AI工厂。 对于云服务提供商而言,Spectrum-6意味着更多计算容量可以作为统一的高性能资源运行,帮助客户更快地训练模型和部署推理服务。 “CoreWeave专为最严苛的AI工作负载而建,网络是规模化提供这种性能的核心,”CoreWeave网络产品总监Min Jun表示。“将NVIDIA Spectrum-6和液冷Spectrum-X以太网基础设施引入我们的AI工厂,将帮助我们提供客户训练前沿模型和更快部署推理所需的带宽、弹性和效率。” “在千兆级规模下,性能取决于协调:让每个GPU同步运行,避免一个慢链路拖垮整个任务,”Nebius全球合作伙伴关系副总裁Laurelle Roseman表示。“这正是NVIDIA Spectrum-6的目标,也是我们早期引入它的原因——一个随着客户最严苛工作负载扩展而保持快速和弹性的网络架构。” 对于建设自有基础设施的AI先驱来说,Spectrum-6意味着更多GPU能够同步工作,在要求严苛的集合操作中利用率更高,并且长期运行的任务更具弹性。 跨用例来看,结果是以非凡的规模获得更快的成果时间和更好的经济效益。 CoreWeave、Microsoft和Nebius将成为首批部署基于Spectrum-6的NVIDIA Vera Rubin基础设施的提供商,将平台访问权限扩展到广泛的开发者、初创企业和企业社区。 ## **AI性能是一个网络问题** 单独的峰值GPU性能不再能预测AI工厂的性能。 大规模训练和推理工作负载依赖数千个加速器持续交换数据。集合通信是将工作同步到所有GPU的基础操作,并产生密集的东西向流量,通常多个系统同时传输。 以太网最初是为企业应用和用户、服务器与存储之间的南北向流量设计的。它并非为千兆级AI的同步、集合密集型通信模式而创建。 Spectrum-X以太网改变了这一点。它专为AI设计,将以太网转变为高性能的横向扩展架构,旨在让每个GPU持续获得数据。 ## **下一代Spectrum-X以太网** Spectrum-6交换芯片与NVIDIA ConnectX-9 SuperNIC结合,构成下一代Spectrum-X以太网,并作为NVIDIA Vera Rubin的一部分设计,集成了NVIDIA Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU和Spectrum-6以太网交换机。 Spectrum-6支持可插拔和共封装光学两种形态。此外,Spectrum-6产品支持液冷,为整个AI工厂提供全面的端到端冷却方案,同时提高网络能效。 与现成以太网不同,面向AI工厂横向扩展的NVIDIA Spectrum-X以太网网络平台结合了智能交换机、NVIDIA ConnectX-9 SuperNIC和全栈网络软件,全部为AI协同设计。该平台的高级功能持续优化流量在网络中的流动方式。 此外,NVIDIA Spectrum-X技术智能地在可用路径间平衡流量,快速绕过故障,并在网络中传输的数据未能到达目的地时精确恢复。另外,支持开放网络操作系统和多种RDMA传输模型选择,为AI建设者提供了灵活性而不牺牲性能。 Spectrum-X以太网是NVIDIA垂直集成、水平开放方法的固有部分:在整个计算平台上协同设计芯片、系统和软件,同时支持标准以太网、开放网络操作系统、开放协议以及广泛的云提供商、系统制造商和基础设施合作伙伴生态系统。客户无需拼凑组件再事后优化,即可获得一个完整的AI工厂平台,旨在实现最快的训练时间和最低的每令牌成本。 这一方法的体现是:Spectrum-X以太网可提供比现成以太网高达1.6倍的AI网络性能,并在超过10万个GPU的部署中保持高达95%的网络效率。 硬件加速的Spectrum-X多平面拓扑可将数据中心所需的交换机数量减少1.7倍,进一步加速网络效率。再叠加通过Spectrum-X以太网光子学实现的优势(包括5倍更高的能效和10倍更好的平均故障间隔时间),网络架构的增强持续带来超越组件级优化的工作负载加速。 *了解更多关于**NVIDIA Spectrum-X* 以太网平台的信息。

相似文章

NVIDIA刚刚发布了全新的Vera CPU——据称比x86快两倍

Reddit r/ArtificialInteligence

NVIDIA宣布了采用全新Vera架构的CPU,该架构从头开始为智能代理AI和强化学习而设计,声称性能达到x86替代方案的两倍。Vera Rubin NVL72平台集成了72个GPU和36个CPU,主要客户包括Meta、Oracle和Alibaba。