memory-technology

Micron正在探索近GPU NAND闪存技术，以启用运行更大的大语言模型，可能提高AI性能和可扩展性。

美光指出，高带宽存储器（HBM）相比DDR5存储器需要多占用三倍的晶圆面积。

NVIDIA 通过 NVHBM 定制高带宽内存技术扩展 NVLink Fusion，该技术提升了 AI 工作负载的内存性能与效率，并与 AWS 的 Annapurna Labs 作为早期合作伙伴进行协作。

在Hot Chips 2026上，三星展示了在将HBM基板芯片升级至逻辑节点后，利用其闲置区域的机遇，包括集成存储器控制器以优化PHY面积和功耗等阶段。

在Hot Chips 2026上的一场演讲探讨了高带宽闪存（HBF）技术及其在机器学习领域的潜在应用，重点介绍了利用vLLM将模型权重和KV缓存存储在HBF中以提升容量的方案。

一次讨论强调了tHBM技术中显著的供电问题，需要传输数千安培的电流，并批评了三星的zHBM可能因在热GPU上堆叠内存而导致的熔化问题，如HBM创造者Kim Jung-ho所揭示。