flashmla

作者为消费级 Blackwell sm_120 构建了 FlashMLA，在长上下文训练和稀疏预填充等注意力密集型工作负载中，性能比 PyTorch SDPA 提升了 2-3 倍。