标签
SpaceX将其AI Sat V1的峰值功率规格提升至约250千瓦(电池辅助),平均功率约160千瓦,使其能够支持一个NVL72 Ruben机架。
FastAFD 是一个开源的 serving 系统,用于在 Blackwell NVL72 上对 MoE 模型进行 Attention-FFN 解聚,相较于共置的 MoE 服务,其每 GPU 解码吞吐量提升了 1.35-1.45 倍。