HBM之后是什么（7分钟阅读）

# 高带宽存储器之后是什么 来源：https://www.mackenziemorehead.com/what-comes-after-hbm/ 存储行业正经历一个将载入史册的超级周期。2023年，该行业处于史上最严重衰退的谷底，全行业面临负利润。三星将产量削减了50%，SK海力士和美光的毛利率均为负值！ChatGPT发布。仅“星际之门”项目就可能需要全球DRAM产量的40%。高带宽存储器（HBM）已占英伟达GPU制造成本的60%。三大厂商的产能已被预订一空，即便12层堆叠的HBM3e良率低至75%。SK海力士的CEO仍在表示（https://www.reuters.com/world/asia-pacific/sk-hynix-ceo-sees-worst-ever-memory-supply-shortage-2027-says-demand-outstrip-2026-07-10/?ref=mackenziemorehead.com）明年的供应短缺将更加严重，且需求将在2030年之后超过供应。目前，预计三大厂商几年内的营业利润将超过苹果当前的利润。 也许在当前资本周期（https://www.amazon.com/dp/1137571640?lv=shuf&channelId=500&plpRedirect=mhFallback&ref=mackenziemorehead.com）接近顶峰之际，创办一家新的、技术雄心勃勃的公司，想法过于天真了，尤其是考虑到这个行业以其周期性而臭名昭著（https://newsletter.semianalysis.com/p/memory-mania-how-a-once-in-four-decades?ref=mackenziemorehead.com），甚至被教科书用作典型案例。但是，即使该行业最终克服了HBM的制造挑战、产能过剩、库存积压、单堆价格下跌，底层需求并不会消失，而存储也不再是大宗商品。华尔街共识预计，尽管价格可能从2028年开始回落，但存储巨头的净利润底线将是上一个周期的5-10倍。无论结果如何，要有效驾驭这些市场动态，需要一位深谙历史和下图的创始人。 **上图：《资本回报》中的资本周期（https://www.amazon.com/dp/1137571640?lv=shuf&channelId=500&plpRedirect=mhFallback&ref=mackenziemorehead.com），下图：根据作者计算的存储行业资本周期** 多年来，我们花了很多时间研究AI加速器的新颖方法，特别是那些利用新颖物理原理、可能带来数量级潜在优势的方法。我们的研究总结可在此找到（https://www.mackenziemorehead.com/compute-moonshots/）。在那篇文章中，我们写道： > *“要在软件、分销、1年产品发布周期和2.5年性能翻倍节奏方面对英伟达的护城河构成威胁，一家初创公司必须利用物理原理，在理论上为其实现比当前H100高出约100倍效率提升的可行路径。因为，那100倍的理论或“纸面”优势，在实践中可能只有25倍。而且，即使是最顶尖的芯片初创公司也需要大约6-8年时间才能将产品推向市场，届时英伟达已经历了6-8个产品周期升级。那25倍的实际优势，到时候可能仅比发布时最前沿的英伟达芯片高约10倍。”* 我们对这个机会有类似的看法。虽然存储巨头可能不像英伟达那样运营得如此无情高效，但它们拥有其他一切优势以及未来可行的产品路线图。 鉴于DRAM微型化在十多年前就碰壁了（https://newsletter.semianalysis.com/p/memory-mania-how-a-once-in-four-decades?ref=mackenziemorehead.com#:~:text=temperature%20can%20cause%20errors.），并且所有现有厂商都专注于通过越来越有创意的先进封装实现垂直发展的下一代解决方案（https://www.hstong.com/news/detail/25101210382647562?ref=mackenziemorehead.com），我们将寻找那些完全绕过这些挑战的技术，它们利用完全不同的物理原理，为其提供实现数量级改进的可靠路径。 例如，是否有可能通过弥合极速暂存器SRAM与高带宽工作存储器（如DRAM）之间的速度和能耗差距所造成的瓶颈，来解决存储墙本身的问题？ 在审视了所有我们能找到的方法之后，我们认为有几种技术距离可行还差一到几个突破。 它们通常分为两个阵营：尝试实现类似HBM但访问速度更快的带宽，或类似HBM的带宽但具备NAND的密度。 ### *访问速度快于HBM* 在更具推测性的方法中，前两种涉及将DRAM更靠近逻辑芯片的方法无疑是进展最远的。d-Matrix和高通的方法有可能在几年内达到制造阶段。它们可能带来显著但非颠覆性的速度提升。垂直磁串则更进一步，利用更激进但有风险的物理基底，将片上存储的概念推向极致。 我们对磁子特别感兴趣，它利用自旋波作为信息处理单元。最新研究（https://www.nature.com/articles/s41586-018-0770-2?ref=mackenziemorehead.com）表明（https://www.nature.com/articles/s41563-026-02531-8?ref=mackenziemorehead.com），这提供了一条通往非易失性存储器的推测路径，其速度接近SRAM的访问时间、具备类似DRAM的密度以及极低的功耗。 大多数磁子研究使用金属铁磁体，而我们认为绝缘体中的反铁磁磁子尤其具有吸引力，因为没有电荷穿过活性材料，因此能耗可以非常低。而且，反铁磁体的共振频率可以达到约1太赫兹，这使得相关动态处于1-2皮秒的时间尺度，比铁磁材料快十倍以上。 历史上的难题是读出。在大约10纳米的尺度上感知磁状态并非易事，而光学读出不易扩展。但在过去六年里，研究人员已将信号读出提高了超过4个数量级，从约100纳伏提升到微伏以上。要使其具有商业实用性，他们需要达到100毫伏。 利用这些材料，研究人员已经构建了一个非破坏性读出的存储器概念验证。 ### *类似HBM的带宽 + NAND般的密度* 二三十年来，铁电材料一直被假定为一种潜在的通用存储器平台，因为它能提供类似DRAM的带宽、是非易失性的、状态翻转所需能量相对较少，并且是最成熟的材料系统。 美光最近甚至投资了10亿美元来演示一种用铁电电容替代DRAM电容的设备，但其他方面仍保持传统的1T1C电荷传感设置。这项工作被搁置，因为其信号仍然像DRAM一样随电容面积缩放，因此无法实现NAND的密度；需要顺序堆叠完整的1T1C层，因此成本扩展性差；并且退化问题无法解决。 最近的学术工作提出了一条可能实现类似NAND密度扩展的路径，即使用2T-nC垂直串，其中给定的电容可以被多个垂直堆叠的位共享。 虽然令人兴奋，但一家将铁电技术商业化的初创公司必须面对这样的事实：铁电材料受到存储巨头的密切关注。其技术创新必须产生决定性的优势，其知识产权地位必须稳固，并且必须迅速迈向制造。 ## 加速的未来 少数早期存储技术可能实现远快于当前HBM的访问速度，或类似HBM的带宽但具备NAND的密度。 除了分布式近存储DRAM（https://ramyadhadidi.github.io/files/dMatrix-Raptor-ISCA.pdf?ref=mackenziemorehead.com）和真正的3D DRAM之外，磁子学和垂直铁电存储器等技术因其可能是存储的理想形态而脱颖而出。 但在它们与商业应用沾边之前还有很长的路要走，并且下表中的估算需要将优秀的器件物理外推到一个尚不存在的阵列架构中。 此外，即使克服了各自材料体系的基础性障碍，这些技术的商业化也需要创始团队有能力筹集1亿到10亿美元以上。例如，美光的小规模铁电技术演示就花费了10亿美元。即使仅仅在现有存储系统内开发一个新节点，也需要2000名工程师。这并不是说无法做到，毕竟像Cerebras这样的公司就筹集了30亿美元，通过更复杂的垂直整合计算堆栈进入市场。 但如果其中任何一项成为现实，它们将真正革命性地改变AI的约束条件以及开发者思考这些系统的方式。 虽然大多数技术感觉遥远到无关紧要，更像是基础科学实验而非对存储霸权的威胁，但我们认为它们的进展有可能被显著加速。我们多年来一直在研究材料发现与转化，包括与我们的投资组合公司Orbital Materials的合作。 我们发表的研究（https://www.mackenziemorehead.com/towards-material-abundance/）详细阐述了神经网络势函数（NNPs）（https://www.mackenziemorehead.com/untitled-2/）的进步如何能够实现接近量子化学精度的高通量材料模拟，初始发现到制造规模化的鸿沟正在逐渐被弥合，现在用于CAD和半导体特定设计的AI工程工具将加速架构层面的建模。技术树探索的路径都可以并行运行，由智能体协调。 或许在4年以上的时间框架内，这些技术工具加上彩虹尽头1万亿美元的诱惑，将使那些更奇特的方法比预期更快地变得可行。 事实上，我们看到（https://x.com/mackenziejem/status/1982106792193573100?s=20&ref=mackenziemorehead.com）新物理加速器领域发生了类似的事情。得益于PyTorch等开源库和编程智能体，过去几年成立的公司所需的软件工程师远少于上一代（Groq、Cerebras等），因为他们不必从零开始编写所有代码，并且能更快地完成必要的定制软件开发。我们听说大约需要50名开发者就能做出最小可行产品，而不是200多名。 我们乐见在接下来的几年里，类似的事情会发生在更基础的发现、转化和工程领域。