AI 的隐性存储账单：推理留下了什么

<p class="wp-block-paragraph">请大多数高管想象一下 AI 的成本，他们脑海中浮现的很可能是 GPU——一排排耗电量以吉瓦计的加速器机架——以及等待芯片供货的名单。但这幅图景遗漏了一项：数据存储成本。</p> <figure class="wp-block-image size-full"><img fetchpriority="high" decoding="async" width="2400" height="1350" src="https://wp.technologyreview.com/wp-content/uploads/2026/10/[email protected]" alt="" class="wp-image-1147215" srcset="https://wp.technologyreview.com/wp-content/uploads/2026/10/[email protected] 2400w, https://wp.technologyreview.com/wp-content/uploads/2026/10/[email protected]?resize=300,169 300w, https://wp.technologyreview.com/wp-content/uploads/2026/10/[email protected]?resize=768,432 768w, https://wp.technologyreview.com/wp-content/uploads/2026/10/[email protected]?resize=1536,864 1536w, https://wp.technologyreview.com/wp-content/uploads/2026/10/[email protected]?resize=2048,1152 2048w" sizes="(max-width: 2400px) 100vw, 2400px" /></figure> <p class="wp-block-paragraph">模型作出响应后，数据会怎样？<a></a>每天数十亿条提示词、图像和视频所产生的大量后端数据都需要存储。但数据存储是较难规划的基础设施成本之一，而且在 AI 基础设施的初期规划中经常被忽视。</p> <h3 class="wp-block-heading"><strong>随着推理规模扩大，数据占用空间也随之增长</strong></h3> <p class="wp-block-paragraph">传统上，围绕 AI 基础设施的讨论一直聚焦于训练模型这一计算密集型过程。训练是有限的：一次训练任务启动，消耗算力，然后结束。但推理会持续运行，每当模型回答一条提示词时，推理就会发生。对于基础设施规划而言，这一区别至关重要：一次训练任务是可以编列预算并在完成后结束的项目。推理却不会结束；每一次推理请求都会留下一些数据。</p> <p class="wp-block-paragraph">以 AI 生成视频为例。在这类工作负载中，后端支出可能相当可观。根据内部测量，WD 发现，一段 8 秒的视频片段（以 3.97MB 的 720p 文件形式返回给用户）会在后端留下超过 500MB 的相关数据，包括日志、缓存上下文、即时渲染结果、备份和安全记录。其大小是用户所见输出文件的 130 倍。如果将其扩展到生成更长、分辨率更高视频的企业场景，每段视频在后端占用的空间就会增长到数百 GB。</p> <p class="wp-block-paragraph">而且，这种后端数据占用正在迅速增长。麦肯锡<a href="https://www.mckinsey.com/industries/technology-media-and-telecommunications/our-insights/the-next-big-shifts-in-ai-workloads-and-hyperscaler-strategies" target="_blank" rel="noopener">预测，到 2030 年，AI 推理需求</a>将以 35% 的复合年增长率增长，而训练需求的增速为 22%；到本十年末，推理将占数据中心总需求的 40% 以上。</p> <p class="wp-block-paragraph">一份<a href="https://www.westerndigital.com/content/dam/doc-library/en_us/assets/public/western-digital/collateral/white-paper/white-paper-built-for-scale-the-enduring-role-of-hdds-in-the-ai-era.pdf" target="_blank" rel="noopener">近期由 WD 赞助的 IDC</a> 全球白皮书对 763 名 IT 和业务决策者进行了调查，发现近 95% 的受访者表示，过去 12 个月中，生成式 AI 导致其数据量增加，其中约 61% 的受访者表示增幅达到或超过 25%。</p> <p class="wp-block-paragraph">报告援引一家超大规模云服务提供商的高级产品经理的话说：“你可以把增加存储看作一种让 GPU 保持忙碌的优化手段。最大的挑战是确保 GPU 不会闲置着等待数据到位——GPU 一旦闲置数小时，成本就会迅速变得十分高昂。”换算成实际支出就是：如果存储支出同比增长 25%，而计算预算则按照更可预测的周期性模式增长，那么存储支出的增长最终会超过那项最受关注的预算。</p> <h3 class="wp-block-heading"><strong>让存储与 AI 数据生命周期相匹配</strong></h3> <p class="wp-block-paragraph">计算需求随着训练周期、产品发布和硬件更新而起伏。但当计算需求放缓时，留存的数据量并不会随之回落。模型日志、合成输出、推理结果等数据不断积累，组织也在以更长的时间保留更多数据。</p> <p class="wp-block-paragraph">这改变了留存数据的作用。过去被移入归档、很少再被调取的信息，如今可能成为未来 AI 工作负载的输入。随着越来越多的数据被保留、检索和重复使用，存储不仅要支持不断增长的容量，还必须支持日益动态的数据访问。同一项 WD-IDC 调查发现，96% 的受访者预计需要更快的归档数据检索速度，以支持推理或检索增强生成（RAG）。</p> <p class="wp-block-paragraph">AI 工作负载既需要性能，也需要容量，不同技术在数据生命周期的各个阶段满足不同需求。对于必须保留并再次访问的海量数据，机械硬盘（HDD）提供了经济高效的大容量基础，并在每 TB 成本方面具有显著优势 &nbsp;</p> <h3 class="wp-block-heading"><a></a><strong>这对 AI 预算编制意味着什么</strong></h3> <p class="wp-block-paragraph">对于首席财务官或首席信息官而言，这意味着“AI 基础设施支出”的范围可能过于狭窄，只聚焦于计算。模型在等待数据加载时闲置，其成本与因缺少 GPU 而闲置时大致相当。但存储瓶颈往往直到造成问题才会显现，体现为运营成本和检索延迟，而不是与加速器并列的一项资本支出。</p> <p class="wp-block-paragraph">设想一家零售商正在为商品目录生成 AI 产品视频，或一家保险公司正在通过 RAG 流水线处理理赔文件，以加快核保速度。在这两种情况下，计算成本都是已知且已纳入预算的数额：财务部门可以预测每次生成或每次查询的费用。存储成本则有所不同：每生成一段视频、每处理一笔理赔，它都会累积，因为这些后端数据都不会在任务完成后消失。</p> <p class="wp-block-paragraph">如果一个团队将 AI 预算视为“计算成本，加上一笔小到可以忽略的存储费用”，那么 12 到 18 个月后，他们可能会发现，这笔原本可以忽略的费用已经占到项目总成本的相当一部分——而此时恰好也是管理层决定是否扩大规模的时候。</p> <h3 class="wp-block-heading"><strong>构建能够经济扩展的容量</strong></h3> <p class="wp-block-paragraph"><a></a>应对这一挑战，要从架构入手。存储策略往往围绕成本高昂的热层性能来设计（用于需要即时、持续访问的数据），但按数据量计算，大多数 AI 数据都积累在其后的温层、凉层和冷层中。</p> <p class="wp-block-paragraph">企业需要的是能够经济扩展的容量：针对完整 AI 数据生命周期设计的基础设施，在数据持续留存、不断累积且越来越多地被重复使用的过程中，平衡性能与容量、功耗、可靠性和总拥有成本。这意味着，要将过去闲置的归档数据视为可用于 RAG 和推理的活跃资产，并依据数据日益增长的战略价值，而非其最初的存储成本，来制定保留策略。这也意味着，要认识到存储决策的影响覆盖整个硬盘集群，而非单块硬盘。</p> <p class="wp-block-paragraph">这样的基础设施需要采用分层存储，各层的功耗、可靠性、存储密度和运营效率共同决定了系统在容量扩展时能否保持经济上的可持续性。</p> <p class="wp-block-paragraph">关于组织的 AI 基础设施预算，有三个问题需要提出：</p> <ol class="wp-block-list"> <li>我们对 AI 生成内容的数据保留策略是什么，由谁制定？</li> <li>我们的存储采购依据的是训练阶段的性能需求，还是所生成数据的实际生命周期？</li> <li>如果明年我们的 AI 使用量翻倍，存储成本是否也会翻倍，甚至增长更多？</li> </ol> <p class="wp-block-paragraph">大多数组织无法有把握地回答全部三个问题。这正是应该在下一个预算周期到来之前弥补的缺口，而不是等到之后。</p> <p class="wp-block-paragraph"><em>本内容由 WD 制作，并非由《麻省理工科技评论》编辑团队撰写。</em></p>