标签
本文探讨了 DFlash 和 PFlash 多模型加速方法与 Heretic(一种用于模型去审查的工具)之间的潜在兼容性,同时强调了其在 Qwen3.6 和 Gemma 4 等模型上的性能优势。
Kimi K2.6 搭配 DFlash 推理系统在 8×AMD MI300X 上实现 508 tokens/s,相比 90 tokens/s 基线零质量损失地提升 5.6 倍吞吐。
Z-lab 发布适用于 Qwen3.6-35B-A3B 的 DFlash 模型微调/压缩技术,训练已全部完成,权重现已在 GitHub 和 HuggingFace 上提供。