d-Matrix 采用 NVIDIA NVLink Fusion 实现机架级 XPU 部署

NVIDIA Blog 新闻

摘要

d-Matrix 采用 NVIDIA NVLink Fusion 技术,将其 Raptor XPUs 与 NVIDIA 的 AI 基础设施平台集成,以实现可扩展、低延迟的推理部署。

<div id="bsf_rt_marker"></div><p><span style="font-weight: 400;">AI 推理芯片制造商 d-Matrix 今日宣布,将使用 NVIDIA NVLink Fusion 将其下一代 Raptor XPUs 连接到 NVIDIA 的 AI 基础设施平台——加入了不断壮大的生态系统合作伙伴行列。</span></p> <p><span style="font-weight: 400;">通过将 Raptor 连接到 NVIDIA NVLink 规模提升和 Spectrum-X 规模扩展网络、NVIDIA MGX 机架架构以及更广泛的 NVIDIA AI 平台,NVLink Fusion 为 d-Matrix 提供了一条从定制芯片到大规模部署的加速且风险更低的路径。</span></p> <p><span style="font-weight: 400;">“推理需求正在激增,但资本、时间和能源依然有限,”d-Matrix 联合创始人兼首席执行官 Sid Sheth 在昨天的新闻发布会上表示。“借助 NVLink Fusion 和 MGX,我们可以将 Raptor XPUs 集成到一个广泛部署的液冷架构中,为客户提供更快、风险更低的超低延迟推理部署与扩展路径。” </span><span style="font-weight: 400;"><br /> </span><span style="font-weight: 400;"><br /> </span><span style="font-weight: 400;">NVIDIA AI 平台具有垂直整合和水平开放的特性。NVLink Fusion 将这种开放性扩展到了 XPUs 和 CPUs,使芯片公司能够专注于处理器创新,同时利用 NVIDIA 基础设施在 AI 工厂规模上进行部署。</span></p> <h2><b>从定制芯片到机架级部署</b></h2> <div style="float: right; margin: 0 0 1.5rem 2rem; background: #f5f5f3; border-left: 3px solid #c8c8c4; border-radius: 0 8px 8px 0; padding: 1.25rem 1.5rem; max-width: 340px; font-family: -apple-system, BlinkMacSystemFont, 'Segoe UI', sans-serif;"> <p style="font-size: 11px; font-weight: 500; letter-spacing: 0.08em; text-transform: uppercase; color: #888; margin: 0 0 1rem 0;">NVLink Fusion — 快速参考</p> <div style="margin-bottom: 1rem; padding-bottom: 1rem; border-bottom: 1px solid #ddd;"> <p style="font-size: 13px; font-weight: 600; color: #1a1a1a; margin: 0 0 4px 0;">什么是 NVIDIA NVLink Fusion?</p> <p style="font-size: 13px; color: #555; margin: 0; line-height: 1.6;">NVIDIA 的平台,用于将第三方定制 XPUs 和 CPUs 与 NVLink 规模提升网络、MGX 机架架构以及完整的 AI 工厂平台(涵盖计算、网络、存储、安全、电力、冷却和软件)进行集成。</p> </div> <div style="margin-bottom: 1rem; padding-bottom: 1rem; border-bottom: 1px solid #ddd;"> <p style="font-size: 13px; font-weight: 600; color: #1a1a1a; margin: 0 0 4px 0;">它解决了什么问题?</p> <p style="font-size: 13px; color: #555; margin: 0; line-height: 1.6;">构建定制 XPU 困难,规模化部署则更困难。NVLink Fusion 让 XPU 制造商无需从头构建机架级基础设施,即可直接接入 NVIDIA 成熟且全球部署的 AI 工厂平台。</p> </div> <div style="margin-bottom: 1rem; padding-bottom: 1rem; border-bottom: 1px solid #ddd;"> <p style="font-size: 13px; font-weight: 600; color: #1a1a1a; margin: 0 0 4px 0;">它的速度如何?</p> <p style="font-size: 13px; color: #555; margin: 0; line-height: 1.6;">通过第六代 NVLink,XPU 间延迟比商用以太网低 3 倍,数据包速率高 10 倍,每 XPU 全对全带宽达 3 TB/s。</p> </div> <div style="margin-bottom: 1rem; padding-bottom: 1rem; border-bottom: 1px solid #ddd;"> <p style="font-size: 13px; font-weight: 600; color: #1a1a1a; margin: 0 0 4px 0;">合作伙伴有哪些?</p> <p style="font-size: 13px; color: #555; margin: 0; line-height: 1.6;">d-Matrix, AWS, Arm, Intel, Fujitsu, SiFive, Alchip, Astera Labs, GUC, Marvell, MediaTek, Samsung, Cadence, Synopsys, Ayar Labs 和 Lightmatter。</p> </div> <div style="margin-bottom: 1rem; padding-bottom: 1rem; border-bottom: 1px solid #ddd;"> <p style="font-size: 13px; font-weight: 600; color: #1a1a1a; margin: 0 0 4px 0;">支持哪些 CPU 架构?</p> <p style="font-size: 13px; color: #555; margin: 0; line-height: 1.6;">支持所有主要 CPU 架构——Arm、x86 和 RISC-V,以及 NVIDIA GPU。</p> </div> <div> <p style="font-size: 13px; font-weight: 600; color: #1a1a1a; margin: 0 0 4px 0;">什么是半定制 AI 工厂?</p> <p style="font-size: 13px; color: #555; margin: 0; line-height: 1.6;">半定制 AI 工厂将 NVIDIA 成熟的基础设施与合作伙伴的定制 XPU 相结合。NVLink Fusion 提供互联、机架架构、软件和供应链;合作伙伴则专注于差异化的芯片设计。<span style="background-color: #ffffff; color: #333333; font-family: Georgia, 'Times New Roman', 'Bitstream Charter', Times, serif; font-size: 16px;"> </span></p> </div> </div> <p>构建 XPU 仅仅是第一步。要在 AI 工厂规模上进行部署,需要一个涵盖网络、机架架构、电力、冷却、软件和成熟供应链的完整平台。每个步骤——采购芯片、集成高速接口、验证规模提升网络解决方案、设计和认证机架架构——都会增加时间、成本和风险。</p> <p><span style="font-weight: 400;">NVLink Fusion 让芯片创新者 </span><a href="https://blogs.nvidia.com/blog/nvlink-fusion-xpu-ai-factory/"><span style="font-weight: 400;">直接连接到 NVIDIA 成熟的平台</span></a><span style="font-weight: 400;">。它是连接定制 XPUs 和 CPUs 到 NVIDIA 技术栈的高带宽、低延迟技术。</span></p> <p><span style="font-weight: 400;">通过采用 NVLink Fusion,d-Matrix 可以利用 NVIDIA MGX 生态系统成熟的、经过验证的机架设计、供应链、电力和冷却基础设施。通过标准化通用机架,数据中心可以一次性建成并支持 GPU、CPU 和 XPU——而无需为每种处理器类型使用单独的机架架构。</span></p> <h2>NVLink Fusion 将 d-Matrix XPUs 集成到 AI 工厂中</h2> <p><span style="font-weight: 400;">使用 NVIDIA NVLink,d-Matrix 计划将其 XPUs 连接到一个高带宽、低延迟的规模提升域中。其机架也可与基于 NVIDIA GPU 的系统(如 NVIDIA Vera Rubin NVL72)协同工作,用于分离式推理。</span></p> <p><span style="font-weight: 400;">d-Matrix 还计划集成 NVIDIA Vera CPUs、NVIDIA ConnectX-9 SuperNICs、NVIDIA BlueField-4 DPUs 和 NVIDIA Spectrum-X 以太网网络。与 NVLink 和 MGX 一起,这些技术为 d-Matrix 提供了成熟的平台,用于在灵活统一的 AI 工厂中,与 NVIDIA 系统一起部署专用的推理能力。</span></p> <h2>NVLink Fusion 为专用 XPU 架构打开 NVIDIA AI 工厂的大门</h2> <p><span style="font-weight: 400;">NVIDIA 全栈 AI 工厂平台包括 NVIDIA Vera Rubin NVL72、Groq 3 LPX、Vera CPU 机架、Vera BlueField-4 STX 存储和 Spectrum-6 SPX 以太网网络。其设计目标是完全灵活——以最佳的能效比和最低的每 Token 成本,运行所有 AI 工作负载、模型和模型架构。</span></p> <p><span style="font-weight: 400;">NVLink Fusion 为客户提供了灵活性,让他们能在统一的 AI 工厂平台内,为每个工作负载匹配合适的计算资源,并开放访问 NVIDIA 网络、系统、软件和全球供应链。像 d-Matrix 这样的芯片创新者可以使用 NVLink Fusion 来提高性能、加速上市时间,并降低部署半定制 AI 工厂的风险。</span></p> <p>&nbsp;</p>
查看原文
查看缓存全文

缓存时间: 2026/09/10 14:15

# d-Matrix采用NVIDIA NVLink Fusion技术实现机架级XPU部署 来源:https://blogs.nvidia.com/blog/d-matrix-nvlink-fusion/ AI推理芯片制造商d-Matrix今日宣布将采用NVIDIA NVLink Fusion技术,将其下一代Raptor XPU连接至NVIDIA人工智能基础设施平台——此举使其加入不断壮大的生态合作伙伴阵营。 通过将Raptor与NVIDIA NVLink纵向扩展及Spectrum-X横向扩展网络、NVIDIA MGX机架架构以及更广泛的NVIDIA AI平台相连接,NVLink Fusion为d-Matrix提供了从定制芯片到大规模部署的加速化、低风险路径。 “推理需求正在激增,但资金、时间和能源资源仍然有限,”d-Matrix联合创始人兼首席执行官Sid Sheth在昨日的媒体简报中表示。“借助NVLink Fusion与MGX技术,我们能将Raptor XPU集成到大规模部署的液冷架构中,为客户开辟更快捷、低风险的超低延迟推理部署与扩展路径。”NVIDIA AI平台兼具垂直整合与水平开放的特性,NVLink Fusion将这种开放性延伸至XPU和CPU领域,使芯片企业能专注处理器创新,同时依托NVIDIA基础设施实现工厂级规模部署。 ## **从定制芯片到机架级部署** NVLink Fusion — 快速参考指南 什么是NVIDIA NVLink Fusion? NVIDIA推出的平台,可将第三方定制XPU和CPU与NVLink纵向扩展网络、MGX机架架构及完整AI工厂平台(涵盖计算、网络、存储、安全、供电、散热和软件)进行集成。 该技术解决什么难题? 定制XPU芯片研发困难,而规模化部署更具挑战。NVLink Fusion让XPU制造商无需从头构建机架级基础设施,可直接接入NVIDIA经全球验证、广泛部署的AI工厂平台。 性能表现如何? 通过第六代NVLink技术,实现比传统以太网低3倍的XPU间通信延迟、高10倍的数据包速率,以及单XPU 3TB/s的全对全带宽。 合作伙伴包括哪些? d-Matrix、AWS、Arm、Intel、富士通、SiFive、Alchip、Astera Labs、创意电子、Marvell、联发科、三星、Cadence、Synopsys、Ayar Labs和Lightmatter。 支持哪些CPU架构? 支持所有主流CPU架构(Arm、x86和RISC-V)及NVIDIA GPU。 什么是半定制AI工厂? 半定制AI工厂将NVIDIA成熟的基础设施与合作伙伴定制XPU相结合。NVLink Fusion提供互连、机架架构、软件和供应链支持;合作伙伴则专注于差异化芯片研发。 制造XPU仅是第一步。实现工厂级规模部署需要涵盖网络、机架架构、供电、散热、软件和成熟供应链的完整平台。从芯片采购、高速接口集成、纵向扩展网络方案验证到机架架构设计认证,每个环节都会增加时间成本与风险。 NVLink Fusion使芯片创新者能直接接入NVIDIA成熟平台(https://blogs.nvidia.com/blog/nvlink-fusion-xpu-ai-factory/)。该技术通过高带宽低延迟方案,将定制XPU和CPU连接至NVIDIA技术体系。 采用NVLink Fusion后,d-Matrix可借助NVIDIA MGX生态成熟的验证机架设计、供应链及供电散热基础设施。通过标准化机架规范,数据中心可构建统一架构同时支持GPU、CPU与XPU,无需为每种处理器类型设计单独机架方案。 ## NVLink Fusion将d-Matrix XPU集成至AI工厂 借助NVIDIA NVLink,d-Matrix计划将其XPU构建为单个高带宽低延迟的纵向扩展域。其机架亦可与基于NVIDIA GPU的系统(如NVIDIA Vera Rubin NVL72)协同工作,实现分布式推理。 d-Matrix还计划集成NVIDIA Vera CPU、ConnectX-9 SuperNIC、BlueField-4 DPU及Spectrum-X以太网网络。这些技术与NVLink和MGX相结合,为d-Matrix提供了在灵活统一的AI工厂中,将专业推理系统与NVIDIA系统并行部署的成熟基础。 ## NVLink Fusion使NVIDIA AI工厂支持专业XPU架构 NVIDIA全栈AI工厂平台包含NVIDIA Vera Rubin NVL72、Groq 3 LPX、Vera CPU机架、Vera BlueField-4 STX存储及Spectrum-6 SPX以太网网络。该平台设计具备完全通用性——可运行各类AI负载、模型和模型架构,同时实现最优能效比与最低每token成本。 NVLink Fusion为客户在通用AI工厂平台中匹配合适算力提供灵活性,使其可接入NVIDIA网络、系统、软件及全球供应链。像d-Matrix这样的芯片创新者,可通过NVLink Fusion提升性能、缩短上市时间,并降低半定制AI工厂的部署风险。

相似文章

XPU如何满足世界级AI工厂的需求

NVIDIA Blog

NVIDIA的NVLink Fusion技术使定制XPU能够与其AI基础设施集成,提升性能,加速产品上市时间,并降低大规模AI工厂的成本。

NVLink 何时值得使用?

Hacker News Top

在双 RTX 3090 上测试 NVLink 用于 AI 推理和训练,发现张量并行提示处理(30%)和 FSDP 训练(3 倍)有显著加速,但对令牌生成或分层推理影响极小。