SK海力士与SanDisk合作推出全新高带宽闪存(HBF)标准,助力解决AI推理瓶颈,目标带宽高达3TB/s

Reddit r/LocalLLaMA 新闻

摘要

SK海力士与SanDisk发布了高带宽闪存(HBF)标准,以弥合HBM内存与SSD之间的性能差距,目标带宽高达3TB/s,容量512GB,以加速AI推理。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/08/04 14:08

# SK hynix 携手 SanDisk 推出全新高带宽闪存 (HBF) 标准,助力解决 AI 推理瓶颈,目标带宽高达 3TB/s 来源:https://wccftech.com/sk-hynix-sandisk-high-bandwidth-flash-hbf-standard-3tbs/ 随着 AI 加速器在高带宽内存 (HBM) 与 SSD 之间面临严重的性能差距,SK hynix 和 SanDisk 共同推出了一种解决方案,旨在通过一项名为高带宽闪存 (HBF) 的新标准来弥合这一性能鸿沟。两家内存制造商旨在创建一个生态,让各类企业能够开发兼容产品。 ## HBF 规范允许以 8 层或 16 层堆叠 NAND 裸片,单配置容量最高达 512GB 简而言之,HBF 具有介于 HBM 和企业级 SSD 之间的定位属性。与 HBM 类似,HBF 依赖于多个堆叠在一起的内存裸片,但不同的是,它采用 NAND 闪存而非 DRAM 来提升存储容量。其主要角色将是补充容量限制,而非彻底取代 HBM。LLM 可以通过 HBM 处理,这属于计算即时所需,而 HBF 则以更大容量存储数据。 SK hynix 和 SanDisk 的最新规范使 HBF 容量可高达 512GB,带宽范围从 0.4TB/s 到 3TB/s。要理解该技术如何提升 AI 推理性能,假设有一个拥有 5000 亿参数的 AI 模型,而每 GB 可容纳 10 亿参数,那么总容量将达到 500GB。由于将整个模型存储在 HBM 中并不划算,企业可以利用 HBF 来存储这些 AI 模型。 高带宽闪存还支持 UCIe(Universal Chiplet Interconnect Express)规范,使 HBF 能够连接各种 CPU 和 GPU,从而引入完整的灵活性层。SK hynix 解决方案开发主管 Kim Chun-sung 表示,公司“将拓展内存与存储之间的界限,并致力于构建新架构以提升整体系统效率。” 在 SK hynix 和 SanDisk 努力推广 HBF 标准之际,三星已通过开发和量产 CMX 解决方案,与 NVIDIA 等公司建立了良好的合作关系。通过制造其 [V10 和 V11 NAND 闪存](https://wccftech.com/nvidia-ai-gpus-face-data-bottleneck-will-require-samsung-v10-nand-for-cmx-storage/),其堆叠层数最高可达 500 层,这家韩国巨头将瞄准 AI 服务器的超高速存储需求,让服务器能够快速访问数据以增强 GPU 卸载能力,从而实现更好的 AI 推理。 哪项标准将加快步伐?看来我们将在未来几个月内见分晓。 新闻来源:SK hynix (https://news.skhynix.com/en/hbf-at-fms-2026/) Omar Sohail 照片 (https://wccftech.com/author/omarsohail/) **关于作者 (https://wccftech.com/author/omarsohail/):** Omar Sohail 是 Wccftech [移动](https://wccftech.com/topic/gadgets/) 板块的记者和分析师,专注于移动行业的技术与商业。他的专长在于复杂的硬件供应链,涵盖半导体制造、芯片光刻和相机传感器技术的发展。 在 Google 上关注 Wccftech (https://profile.google.com/cp/Cg0vZy8xMWM3NDB2MmIyGgA),在您的订阅源中获取更多我们的新闻报道。

相似文章

高带宽闪存为模型权重提供高效存储

Hacker News Top

IEEE Spectrum报道了高带宽闪存(HBF),这是一种新型内存技术,通过使用高带宽内存(HBM)封装技术堆叠NAND闪存芯片,大幅提升读取带宽,实现对LLM模型权重的高效存储。首批产品预计约一年内推出。

SK hynix 开始为 NVIDIA AI 服务器量产 192GB SOCAMM2

Reddit r/LocalLLaMA

SK hynix 已开始量产专为 NVIDIA AI 服务器优化的 192GB SOCAMM2 内存模块,与传统 RDIMM 相比,带宽提升一倍以上,能效提升 75%,解决了 AI 训练工作负载中的内存带宽瓶颈。

@FinanceYF5: SK hynix和NVIDIA签了多年合作协议。 内存芯片不能等GPU设计完再做,先进DRAM需多年联合设计、制造规划和资本投入。 AI超算、个人AI PC、Jetson机器人平台。用NVIDIA工具做芯片厂数字孪生,在真实产线动之前,先…

X AI KOLs Timeline

SK hynix与NVIDIA签署多年合作协议,涉及先进DRAM的联合设计、制造规划以及AI基础设施(超算、AI PC、Jetson)和数字孪生工厂技术,标志着AI基础设施竞争已深入内存层面。