标签
Micron 和 Samsung 高管表示，受 AI 对 HBM 和服务器 DRAM 需求激增的推动，内存短缺将持续至2028年，产能将优先供应 AI 而非消费级设备。
Micron首席执行官警告称，2027年和2028年的内存供应将显著比2026年更为紧张，这表明在AI需求的持续推动下，DRAM/HBM的可用性将继续面临供应限制。
Hot Chips 2026上的一项内存教程突显了计算性能与HBM带宽之间日益扩大的差距，并正在实施实用的解决方案，例如三星的LPDDR5x在llama 3.1 8B上实现了3.01倍的令牌速度。
内存现占AI加速器成本的63%，较2024年初的52%上升，这使得行业优先事项从工艺缩小转向数据移动优化。
由于英伟达GPU对HBM的AI需求旺盛，存储行业正经历超级周期，供应短缺预计将持续。尽管存在周期性波动，存储制造商仍有望实现高额利润。
Apple的2027年iPhone预计采用移动高带宽内存（HBM）和硅通孔（TSV）技术，以提升AI性能，使得大型语言模型能够本地运行，具有更高的效率和更紧凑的设计。
SK hynix正在印第安纳州建设其首个高带宽存储器（HBM）封装基地，投资40亿美元，获得美国政府根据CHIPS法案的资金支持，计划于2028-2029年开始运营。
在Hot Chips 2026上，三星展示了在将HBM基板芯片升级至逻辑节点后，利用其闲置区域的机遇，包括集成存储器控制器以优化PHY面积和功耗等阶段。
本文分析了HBM内存成本上升如何影响NVIDIA的AI服务器定价和毛利率，暗示客户可能需要承担如Vera Rubin和Grace Blackwell等即将推出系统的额外成本。
一次讨论强调了tHBM技术中显著的供电问题，需要传输数千安培的电流，并批评了三星的zHBM可能因在热GPU上堆叠内存而导致的熔化问题，如HBM创造者Kim Jung-ho所揭示。
本文解释了如何通过分析从HBM获取的每字节操作数来确定GPU工作负载是计算受限还是内存受限，以NVIDIA的H100为例，并讨论了批处理和提示长度如何影响性能。
据报道，由于HBM供应紧张，英伟达正在测试其即将推出的Rubin Ultra加速器的低内存版本，包括192 GB或256 GB的配置，并从HBM4E切换至HBM4。
据报道，三星、SK海力士和美光已将所有2027年DRAM和HBM产能售罄给AI公司，加剧了内存短缺，并推高了内存、固态硬盘和游戏主机的消费价格。
SK海力士与SanDisk发布了高带宽闪存（HBF）标准，以弥合HBM内存与SSD之间的性能差距，目标带宽高达3TB/s，容量512GB，以加速AI推理。
英伟达的 DGX GB300 系统，单机架配备 20 TB 的 HBM 和约 2 英里长的铜缆，展现了巅峰工业文明，将智能转化为制造业问题。
SK海力士是英伟达AI加速器内存芯片的主要供应商，其美国IPO取得了成功，开盘价为每股170美元，估值达到1万亿美元，原因是人工智能数据中心建设推动了对DRAM和HBM的激增需求。
SK Hynix筹集265亿美元，完成美国历史上最大的外国IPO，得益于其用于AI GPU的HBM内存芯片需求。美国商务部长敦促该公司在美国新建制造工厂，以减少对韩国生产的依赖。
揭露NVIDIA DGX Station宣传的748GB统一内存中实际只有252GB高速HBM可用，其余496GB慢速LPDDR5X在大模型推理中基本无用，体现了NVIDIA精准的产品差异化策略。
本文梳理了7月多家科技公司财报中AI产业链的关键看点，包括存储、设备、代工、AI芯片和云服务的需求趋势，强调台积电作为AI供应链的核心位置。