@rohanpaul_ai:Marvell 的 Dave Lazovsky 手持一个微小模块,利用光子技术将高带宽内存(HBM + DDR)传输到……

X AI KOLs Following 产品

摘要

Marvell 发布了一款光子模块,可让 HBM 和 DDR 内存与 GPU 相距最远达 50 米,同时将延迟保持在数百纳秒级别,从而在 AI 集群中实现内存与计算的解耦扩展。

Marvell 的 Dave Lazovsky 手持一个微小模块,利用光子技术将高带宽内存(HBM + DDR)传输到距离 GPU 最远 50 米的位置。 它可以与 GPU 相距最远 50 米,而不再是通常的 1.5 毫米。 内存首次不再需要紧挨着计算单元,这让 AI 集群可以共享海量容量,而不必绑定在加速器封装上。 延迟保持在数百纳秒级别,足够接近以满足实际内存使用需求。 基本上,内存和计算现在可以在各自的轴上独立扩展,而不再被绑定在一起。https://x.com/MarvellTech/status/2112227641759871266/video/1…
查看原文
查看缓存全文

缓存时间: 2026/10/20 09:31

Marvell 的 Dave Lazovsky 正在展示一个微型模块,该模块利用光子技术将高带宽内存(HBM + DDR)传输到距离 GPU 远达 50 米的位置。

该模块可以放置在距 GPU 最远 50 米处,而通常距离仅为 1.5 毫米。

内存首次不必紧邻计算单元,这使得 AI 集群可以共享海量容量,而不再受限于加速器封装。

延迟保持在数百纳秒的范围内,对于实际内存使用而言已经足够接近。基本上,内存和计算现在可以沿各自的维度独立扩展,而不再被绑定在一起。https://x.com/MarvellTech/status/2112227641759871266/video/1…

相似文章

内存计算:DRAM 即将能进行数学运算

Hacker News Top

三星在 Hot Chips 2026 上展示了具有集成计算单元的 16 GB LPDDR5X 内存包,提供 614 GB/s 内部带宽,通过克服内存带宽限制显著提升 AI 推理性能。