flash-attention-2

一位用户对 Flash Attention 2 的 V100 兼容端口进行了基准测试，报告称相比默认的 PyTorch 注意力机制，速度提升了 3 到 17 倍，内存减少了高达 94%。