标签
FLAMIA 提出了一族面向 NVIDIA Blackwell GPU 的混合精度注意力内核,利用 MXFP8 与 NVFP4/FP8 路径,在避免因果信息泄漏的同时加速 Transformer 训练,在 B200/B300 上实现约 1.06–1.42 倍的前向与反向注意力加速。
Meta Engineering 扩展了 FlashAttention-4,增加了对 NVIDIA Blackwell 的 MXFP8 支持,实现了高达 2.85 PFLOP/s 的正向性能,并集成了如 GEM 这样的生产训练工作流。
DealignAI 发布了 Qwen3.6-27B 和 35B 模型的 CRACK-abliterated 以及 MXFP4/MXFP8 量化版本,保留了 MTP,可在 Apple Silicon 上实现更快的推测解码。