Hot Chips 2026：三星与HBM基板芯片机遇

# Hot Chips 2026：三星与HBM基础芯片的机遇 来源：https://chipsandcheese.com/p/hot-chips-2026-samsung-and-hbm-base HBM，即高带宽内存，将多颗DRAM芯片堆叠于一颗基础芯片之上。各芯片间通过硅通孔实现互联，而基础芯片则通过中介层与使用该内存的计算芯片进行通信。提升新一代HBM的带宽，需要从两方面着手：一是扩大DRAM芯片与基础芯片之间的带宽，二是增加基础芯片到主机的带宽。前者可以通过实现更密集、数量更多的硅通孔轻松达成。后者则更具挑战性，因为基础芯片与主机之间的物理接口已经占据了基础芯片的最大面积。增加数据引脚数量会使面积问题雪上加霜，并对功耗产生不利影响。三星指出，尽管每一代HBM都在提升能效，但内存的整体功耗仍在持续上升。 [](...) 三星通过采用逻辑工艺节点（脱离传统的DRAM工艺节点制造基础芯片）来应对这一挑战。HBM4和HBM4E现采用其4纳米逻辑工艺。逻辑节点有助于缓解功耗增长，并凭借更高的密度为其他优化机会打开了空间。转用逻辑节点后，三星发现其基础芯片有大量未使用的面积。由于基础芯片的面积由堆叠在其上的DRAM芯片决定，因此无法将其缩小，三星便开始探索利用这些面积实现更多有趣功能的机会。三星的演讲概述了这些机会，将其分为三个阶段。 [](...) 第一阶段研究将内存控制器集成到HBM基础芯片上。传统DRAM在“智能化”方面相对欠缺，需要主机端的内存控制器来管理底层细节，如行预充电、总线在读/写模式间切换以及DRAM单元刷新等。内存控制器接收基本的数据请求（从该地址给我数据），将这些请求排队，并尝试调度它们，以在保证内存顺序正确性的前提下最大化性能。三星希望将这些功能移至基础芯片上，并采用定制的芯片间接口而非标准HBM接口与计算芯片通信。通过这种方式，三星希望减少计算芯片和HBM基础芯片上的物理层面积。节省下来的物理层面积可用于容纳内存控制器，从HBM基础芯片的角度看，这一迁移几乎是免费的。 [](...) 若三星成功实现这一设想，你可以想象一种类似英特尔Sapphire Rapids的假想产品，但其HBM芯片能直接理解CPU内部的网格协议。一个潜在的权衡是，定制HBM需要更多的集成工作，因为它不再与标准内存控制器对话。三星或许会尝试将定制协议标准化以克服这一点，但其具体计划尚待揭晓。 [](...) 三星还在考虑在基础芯片中集成一块SRAM，用于存储重映射信息以应对DRAM单元故障。此前这一工作在DRAM芯片内完成，但灵活性有限。可以推测，行备用资源只能用于替换同一芯片上的故障行，列备用资源亦是如此。基于SRAM的重映射表可以利用行/列备用资源中的单个单元来替换任何故障单元。也很容易想象一颗芯片上的备用资源被用于替换另一颗芯片上的故障单元。 [](...) 第二阶段着眼于回收更多未使用的基础芯片面积，因为即使集成了内存控制器，显然仍有空间剩余。三星希望集成更多传感器，让HBM能提供更佳的温度与电压遥测数据。为提高良率和测试覆盖率，芯片面积可用于实现测试模块。该模块生成测试模式，其工作原理类似于memtest，但无需主机参与。 [](...) 内存扩展也被作为第二阶段的一部分进行了讨论。基础芯片可以与外部存储器接口，充当某种IO芯片。似乎没有人能满足于现有的内存容量，而HBM的容量可能受限于中介层/芯片尺寸。将外部存储器物理层放置在空闲的HBM基础芯片面积上，可能是将计算芯片连接到更多内存的一种颇具吸引力的方式。 [](...) 存内计算也作为第二阶段的一部分登场。闲置面积可用于承载计算单元。我对近内存计算持怀疑态度，因为这种计算绑定到特定内存区域。它将面临NUMA架构的所有挑战，且问题更为严重，因为集成在HBM基础芯片上的每个处理单元都不太可能拥有足够大的缓存来容纳驻留在其他内存芯片上的数据。或许它可用于数据预处理，例如在数据加载到计算芯片内部存储器时进行格式转换。 [](...) 第三阶段则瞄准更激进的方案。三星正在研究将HBM芯片堆叠在计算芯片之上，有点类似于移动SoC采用封装叠封装形式堆叠内存的方式。我推测散热将是一个巨大挑战。AMD花费了好几代产品的时间来优化3D缓存堆叠的散热问题。Zen 3、Zen 4和Zen 5的堆叠缓存变体，其运行频率均显著低于无缓存的标准版本，而这还只是单芯片堆叠。HBM将堆叠多得多的芯片，这使得散热问题更加复杂化。 [](...) 如果散热问题得以解决，这种zHBM方案有望提供3D堆叠的所有潜在优势。硅通孔不像2D物理层那样消耗大量功耗和面积。节省下来的任何功耗或面积都可以回馈给更多的计算资源，前提是这些计算不会在通过一堆HBM芯片层冷却时产生难以散热的热点。 [](...)[...][...] 三星和其他内存制造商正在研究HBM的诸多令人兴奋的可能性，这无疑是DRAM需求爆发所驱动的。三星的许多提案都围绕着将DRAM与使用它的计算芯片更紧密地耦合。如果计算芯片制造商希望实现HBM的多源采购，这些方案可能难以实现，因为三星将需要说服其他DRAM供应商采纳其定制方案。三星第一阶段的部分目标看起来非常可行。例如，更好的片上测试和RAS（可靠性、可用性、可服务性）功能，就无需对连接的计算芯片给予特殊关注。而第二阶段和第三阶段的内容则显得颇具挑战性。无论如何，这都将是一个激动人心的探索过程。