标签
在未来内存与存储大会(FMS)上,NVIDIA 宣布将其用于 GPU 直连存储的 cuFile API 开源,并展示了 Vera CPU 在压缩和加密流水线中相比 x86 高达 3.21 倍的吞吐量提升,以应对 AI 日益增长的存储需求。
IEEE Spectrum报道了高带宽闪存(HBF),这是一种新型内存技术,通过使用高带宽内存(HBM)封装技术堆叠NAND闪存芯片,大幅提升读取带宽,实现对LLM模型权重的高效存储。首批产品预计约一年内推出。
Hugging Face推出Storage Buckets,这是一个专为AI团队构建的存储解决方案,提供按TB计费、内置CDN以及针对模型权重、数据集和检查点的Xet去重功能。