标签
作者为消费级 Blackwell sm_120 构建了 FlashMLA,在长上下文训练和稀疏预填充等注意力密集型工作负载中,性能比 PyTorch SDPA 提升了 2-3 倍。
Minimax 的 M3 模型需要 vllm 更新以支持 sm_120 计算能力,因为当前仓库仅支持 sm_100。