随着 AI 对内存需求的增加,存储技术加速提升

NVIDIA Blog 新闻

摘要

在未来内存与存储大会(FMS)上,NVIDIA 宣布将其用于 GPU 直连存储的 cuFile API 开源,并展示了 Vera CPU 在压缩和加密流水线中相比 x86 高达 3.21 倍的吞吐量提升,以应对 AI 日益增长的存储需求。

<div id="bsf_rt_marker"></div> <figure></figure> <p class="wp-block-paragraph">激增的 AI 需求正推动对大规模数据集和上下文窗口的需求,这些需求已突破系统内存的限制。</p> <p class="wp-block-paragraph">但不断增长的需求并不能通过简单地增加存储容量来满足。我们需要的是来自 AI 工厂的有用、可靠的洞察,以及能够实现这些洞察的高效、安全的存储架构。</p> <p class="wp-block-paragraph">在本周的“未来内存与存储大会”(FMS) 上,NVIDIA 发布了新的存储进展,并展示了 AI 的下一轮飞跃既取决于为加速计算提供数据的存储基础设施,也取决于计算能力本身。</p> <p class="wp-block-paragraph">随着 AI 智能体消耗大量数据,基础设施面临的压力日益加剧——GPU 现在可以直接发起存储请求,产生数千个并发操作。</p> <p class="wp-block-paragraph">为了满足这些请求,存储系统必须持续对数据进行加密、压缩、验证和重建。当数千个智能体同时访问存储时,这些关键数据服务可能成为瓶颈。</p> <p class="wp-block-paragraph">这篇 <a target="_blank" href="https://developer.nvidia.com/blog/nvidia-vera-storage-benchmarks-faster-encryption-compression-integrity-checking-and-recovery-for-ai-native-storage/">NVIDIA 技术博客</a> 中重点介绍的基准测试显示,作为 <a target="_blank" href="https://nvidianews.nvidia.com/news/nvidia-vera-bluefield-4-stx-brings-agentic-ai-storage-processing-with-in-silicon-security">NVIDIA Vera BlueField-4 STX</a> 一部分的 NVIDIA Vera CPU,在两级压缩和加密流水线中的吞吐量比 x86 CPU 高出多达 3.21 倍。这意味着借助 Vera,存储平台可以更有效地吸收 AI 数据洪流——用更少的计算基础设施实现更高的吞吐量。</p> <p class="wp-block-paragraph">借助加速计算,存储不再是被动保存数据的地方,而是成为数据路径中的活跃部分。</p> <p class="wp-block-paragraph">这颠覆了以往决定数据应存放在内存(应用可以更快地访问)还是存储驱动器(可以廉价且大量地保存)的旧有经济考量。这一权衡在 40 年前首次被提出,当时答案是以分钟来衡量数据访问时间。而在今天的 GPU 上,配合 NVIDIA 及合作伙伴的 <a target="_blank" href="https://www.nvidia.com/en-us/data-center/ai-storage/">AI 存储解决方案</a>,同样的权衡现在只需微秒即可完成。</p> <p class="wp-block-paragraph">弥合 AI 需求与内存短缺之间的差距,有赖于整个生态系统的<a target="_blank" href="https://developer.nvidia.com/blog/building-for-the-rising-complexity-of-agentic-systems-with-extreme-co-design/">极致协同设计</a>,从内存和存储制造商到基于它们构建的软件。</p> <h2 class="wp-block-heading"><strong>开源 NVIDIA cuFile API 促进存储解决方案的互操作性</strong></h2> <p class="wp-block-paragraph">在 FMS 上,NVIDIA 宣布将其 <a target="_blank" href="https://github.com/xio-sig">cuFile 应用程序编程接口 (API)</a> 及其底层的垂直存储软件栈开源,这些接口不仅让 CPU,也让 GPU 可以直接读写存储。cuFile 是 <a target="_blank" href="https://docs.nvidia.com/gpudirect-storage/">NVIDIA GPUDirect Storage</a> 的开源组件。</p> <p class="wp-block-paragraph">通过使用数十万个 GPU 线程、快速高带宽内存和其他方法,cuFile 能够在短短几微秒内安全地从存储中访问数据。</p> <p class="wp-block-paragraph">这代表了业界如何基于 Linux 最佳实践统一安全优先的存储栈,实现 GPU 与数据之间的互操作性。</p> <p class="wp-block-paragraph">此外,对数据和存储的快速、安全访问是支撑预防性和检测性网络安全措施的基础要素。将 cuFile 开源将有助于以 AI 驱动的防御所需的速度访问安全上下文、数据和存储。此类开放技术支持新的 <a href="https://blogs.nvidia.com/blog/open-secure-ai-alliance/">Open Secure AI Alliance</a> 等倡议。</p> <p class="wp-block-paragraph"><a target="_blank" href="https://github.com/xio-sig">这个网站</a> 是这些对外开放贡献的 API 的新家——Google、Intel、NVIDIA 和 Meta 为首批维护者——并且可以针对各种软硬件平台进行优化,从而为开发者和企业带来创新和效率。</p> <h2 class="wp-block-heading"><strong>NVIDIA 与行业领导者推进 AI 存储的新前沿</strong></h2> <p class="wp-block-paragraph">此外,NVIDIA 与存储行业领导者正通过一项名为 Storage-Next 的倡议优化内存和存储解决方案。这项由 NVIDIA 推动的倡议汇集了存储制造商、控制器供应商、热设计、冷却和编排运营商以及标准机构,共同协调 GPU 驱动的存储应如何运作,然后将这些进展转化为可互操作的开放行业标准。</p> <p class="wp-block-paragraph">Storage-Next 汇聚了包括 DDN、KIOXIA 和 Micron 在内的 40 多家领先存储和闪存供应商,每家公司都与 NVIDIA 一起为下一代 AI 存储技术贡献力量。</p> <p class="wp-block-paragraph">该倡议以大型 AI 数据集的加速数据访问为基础。为此,NVIDIA 提供了 <a target="_blank" href="https://www.youtube.com/watch?v=OZloQQZGmQQ&amp;t=67s">SCADA</a>——即可扩展加速数据访问(scaled, accelerated data access)的缩写——这一框架可让大规模并行 GPU 直接从存储中仅提取应用所需的数据到自身的高速内存中。</p> <p class="wp-block-paragraph">例如,DDN 正在将 SCADA 与 Infinia 集成,后者是其软件定义、AI 原生的数据智能平台,旨在大规模消除存储瓶颈。</p> <p class="wp-block-paragraph">“AI 的成功将不取决于组织拥有多少基础设施,而在于他们如何高效地使用它。”DDN 首席技术官 Sven Oehme 表示,“我们与 NVIDIA 的合作正在帮助创建 GPU 与数据之间更直接、更高效的连接——保持加速计算资源的高效运转,加快洞察速度,并使客户能够从其 AI 投资中获得更强的业务和财务回报。”</p> <p class="wp-block-paragraph">Storage-Next 和 SCADA 扩展了 NVIDIA 在 AI 存储基础设施方面的长期工作,包括 <a target="_blank" href="https://nvidianews.nvidia.com/news/nvidia-vera-bluefield-4-stx-brings-agentic-ai-storage-processing-with-in-silicon-security">NVIDIA Vera BlueField-4 STX</a>——一个由 NVIDIA Vera Rubin 平台、NVIDIA Vera BlueField-4 存储处理器和 <a target="_blank" href="https://www.nvidia.com/en-us/networking/spectrumx/">NVIDIA Spectrum-X 以太网</a>网络驱动的模块化机架级基础。</p> <div class="wp-block-image"> <figure class="aligncenter size-large"> <figure style="width: 2048px" class="wp-caption alignnone"><img fetchpriority="high" decoding="async" src="https://blogs.nvidia.com/wp-content/uploads/2026/08/inline-1785797311823.jpeg" alt="" width="2048" height="1152" /><figcaption class="wp-caption-text">NVIDIA Vera BlueField-4 STX 存储处理器。</figcaption></figure> </figure> </div> <p class="wp-block-paragraph">定义新一代 AI 原生数据平台,<a target="_blank" href="ht
查看原文
查看缓存全文

缓存时间: 2026/08/04 19:37

# AI对内存需求激增,存储技术迎难而上 来源:https://blogs.nvidia.com/blog/ai-storage-fms/ 人工智能需求激增,推动了对海量数据集和远超系统内存限制的上下文窗口的需求。 然而,仅靠增加存储容量并不能满足日益增长的需求。真正需要的是从AI工厂获得有用、扎实的洞察,以及能够实现这些洞察的高效、安全的存储架构。 在本周的“未来内存与存储”(FMS)大会上,NVIDIA发布了新的存储进展,并展示了AI的下一轮飞跃不仅取决于加速计算本身,也同样取决于为加速计算提供数据的存储基础设施。 随着AI代理消耗海量数据,存储基础设施面临的压力不断加大——GPU现在可以直接发起存储请求,产生数千个并发操作。 为了满足这些请求,存储系统必须持续对数据进行加密、压缩、验证和重建。当数千个代理同时访问存储时,这些关键数据服务可能成为瓶颈。 本[NVIDIA技术博客](https://developer.nvidia.com/blog/nvidia-vera-storage-benchmarks-faster-encryption-compression-integrity-checking-and-recovery-for-ai-native-storage/)中重点介绍的基准测试显示,在两级压缩与加密流水线中,作为[NVIDIA Vera BlueField-4 STX](https://nvidianews.nvidia.com/news/nvidia-vera-bluefield-4-stx-brings-agentic-ai-storage-processing-with-in-silicon-security)一部分的NVIDIA Vera CPU,其吞吐量比x86 CPU最高提升3.21倍。这意味着借助Vera,存储平台可以更高效地吸收海量AI数据——用更少的计算基础设施实现更高的吞吐量。 借助加速计算,存储不再是被动保存数据的地方,而是成为数据路径中活跃的一环。 这颠覆了旧有的取舍逻辑:数据应存放在内存(应用取用速度更快)还是存储驱动器(空间便宜且充足)中。这种取舍在40年前首次被提出,当时衡量标准是几分钟内能否访问数据。而如今,在NVIDIA及其合作伙伴的[AI存储解决方案](https://www.nvidia.com/en-us/data-center/ai-storage/)配合下,同样的取舍只需微秒即可完成。 要弥合AI需求与内存短缺之间的差距,需要整个生态系统进行[极致协同设计](https://developer.nvidia.com/blog/building-for-the-rising-complexity-of-agentic-systems-with-extreme-co-design/),涵盖从内存和存储制造商到基于这些硬件构建的软件。 ## **开源NVIDIA cuFile API实现存储解决方案的互操作性** 在FMS上,NVIDIA宣布将其[cuFile应用程序接口(API)](https://github.com/xio-sig)及其底层的纵向存储软件栈开源,使GPU(而不仅仅是CPU)能够直接读写存储。cuFile是[NVIDIA GPUDirect Storage](https://docs.nvidia.com/gpudirect-storage/)的开源组件。 cuFile利用数十万个GPU线程、快速高带宽内存及其他方法,能够在微秒级安全地访问存储中的数据。 这体现了行业如何基于Linux最佳实践统一“安全优先”的存储栈,实现GPU与数据之间的互操作性。 此外,快速、安全地访问数据和存储是支撑预防性及检测性网络安全措施的基础。将cuFile开源将有助于以AI驱动防御所需的速度访问安全上下文、数据和存储。此类开放技术支持“开放安全AI联盟”([Open Secure AI Alliance](https://blogs.nvidia.com/blog/open-secure-ai-alliance/))等新倡议。 [该网站](https://github.com/xio-sig)是这些开放贡献API的新家园——Google、Intel、NVIDIA和Meta为首批维护者——这些API可针对各种软件和硬件平台进行优化,为开发者和企业带来创新与效率。 ## **NVIDIA与行业领袖共同推进AI存储新前沿** 此外,NVIDIA与存储行业领导者正通过一项名为[Storage-Next](https://resources.nvidia.com/en-us-ai-storage/nvidia-storage-next)的倡议优化内存与存储解决方案。这项由NVIDIA推动的倡议汇聚了存储制造商、控制器供应商、热设计、冷却与编排运营商以及标准组织,共同协调GPU驱动存储应有的行为方式——然后将这些进展转化为可互操作的开放行业标准。 Storage-Next涵盖40多家领先的存储和闪存供应商——包括DDN、KIOXIA和Micron——它们各自与NVIDIA共同为下一代AI存储技术贡献力量。 该倡议以大型AI数据集加速数据访问为基础。为此,NVIDIA推出[SCADA](https://www.youtube.com/watch?v=OZloQQZGmQQ&t=67s)(scaled, accelerated data access的缩写),这是一个让大规模并行GPU直接从存储中仅提取应用所需数据到自身高速内存的框架。 例如,DDN正将SCADA与Infinia集成。Infinia是DDN旗下软件定义、AI原生的数据智能平台,旨在大规模消除存储瓶颈。 DDN首席技术官Sven Oehme表示:“AI的成功不取决于组织拥有多少基础设施,而取决于他们如何高效地使用这些基础设施。我们与NVIDIA的合作正在帮助建立GPU与数据之间更直接、更高效的连接——保持加速计算资源的高生产率,加快获得洞察的速度,使客户能够从AI投资中获得更强劲的业务和财务回报。” Storage-Next和SCADA扩展了NVIDIA在AI存储基础设施上的长期工作,包括[NVIDIA Vera BlueField-4 STX](https://nvidianews.nvidia.com/news/nvidia-vera-bluefield-4-stx-brings-agentic-ai-storage-processing-with-in-silicon-security)——这是一个模块化、机架级基础架构,由NVIDIA Vera Rubin平台、NVIDIA Vera BlueField-4存储处理器和[NVIDIA Spectrum-X以太网网络](https://www.nvidia.com/en-us/networking/spectrumx/)提供支持。 NVIDIA Vera BlueField-4 STX存储处理器。 [NVIDIA STX](https://www.nvidia.com/en-us/data-center/ai-storage/stx/)定义了新一类AI原生数据平台,利用统一的[NVIDIA DOCA](https://www.nvidia.com/en-us/networking/products/software/doca/)安全栈,让企业在AI数据路径中实现持续的策略执行。 此外,[NVIDIA CMX Context Memory Storage](https://www.nvidia.com/en-us/data-center/ai-storage/cmx/)基于NVIDIA STX构建,为长上下文、多轮、代理式AI推理提供AI原生的上下文层。 ## **SCADA实现快速且安全的AI存储** 存储层的速度提升是有代价的。让应用直接与驱动器通信确实很快,但如果操作不当,可能会覆盖其他进程的内存——这是一个安全漏洞,而非功能特性。 NVIDIA SCADA采用安全、稳健的方法实现大规模直接访问,将任务分为两部分: - 需要原始速度的应用程序用户部分保持在可信计算基之外。 - 一个独立的特权组件在设置时配置用户应用与其已批准存储之间的受保护访问,遵循标准Linux协议执行安全策略,同时高效地保护数据。 这些都是快速、大规模并行、高效、安全的AI存储基础设施进展的一部分,可以将更好的数据提供给应用和AI工厂——从而使它们能够大规模地产生更有用、更准确、更扎实的智能。 *欢迎参加8月4日至6日在加利福尼亚州圣克拉拉举行的[**FMS**](https://www.terrapinn.com/conference/future-memory-storage/index.stm)大会上的NVIDIA会议,了解更多关于[**NVIDIA AI存储**](https://www.nvidia.com/en-us/data-center/ai-storage/)的信息。* *有关软件产品信息,请参阅[**声明**](https://www.nvidia.com/en-eu/about-nvidia/terms-of-service/)。*

相似文章

本地 AI 硬件内存带宽(2026 年版)

X AI KOLs

本文深入解析内存带宽作为本地 AI 硬件性能的关键指标,对比了 NVIDIA、Apple、AMD、Intel 等厂商在不同性能层级下的当前 GPU 与统一内存系统。

谁承担内存成本?(9分钟阅读)

TLDR AI

本文分析了HBM内存成本上升如何影响NVIDIA的AI服务器定价和毛利率,暗示客户可能需要承担如Vera Rubin和Grace Blackwell等即将推出系统的额外成本。

Nvidia的AI优势正超越GPU

TechCrunch AI

Nvidia正通过开发用于大型数据中心数据编排的专用硬件,扩展其AI优势至GPU之外,正如其最近的财报和Vera Rubin架构推出所强调的那样。