nvl72

标签

Cards List
#nvl72

SpaceX AI Sat V1的峰值功率规格已提升至约250千瓦(电池辅助),平均功率约160千瓦。将能够支持一个NVL72 Ruben机架。

Reddit r/singularity · 昨天 缓存

SpaceX将其AI Sat V1的峰值功率规格提升至约250千瓦(电池辅助),平均功率约160千瓦,使其能够支持一个NVL72 Ruben机架。

0 人收藏 0 人点赞
#nvl72

@haoailab: 在最新的机架级 GPU 系统上,Attention-FFN 解聚还能胜出吗?我们构建了 FastAFD,一个开源的 AFD 运行时…

X AI KOLs Timeline · 4天前 缓存

FastAFD 是一个开源的 serving 系统,用于在 Blackwell NVL72 上对 MoE 模型进行 Attention-FFN 解聚,相较于共置的 MoE 服务,其每 GPU 解码吞吐量提升了 1.35-1.45 倍。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈