attention-ffn-disaggregation

FastAFD 是一个开源的 serving 系统，用于在 Blackwell NVL72 上对 MoE 模型进行 Attention-FFN 解聚，相较于共置的 MoE 服务，其每 GPU 解码吞吐量提升了 1.35-1.45 倍。