llama.cpp PR 报告：仅切换一个 SYCL 内核，Intel Battlemage 上量化 KV 解码在 118K 上下文最高提速 169%

一个新的 llama.cpp PR（#26689）改变了一个看似微小的 SYCL FlashAttention 调度决策。使用量化 KV 缓存（“q4_0” / “q8_0”）时，解码原本被发送到 VEC 内核。在作者的 Battlemage 测试系统上，随着上下文增长，将该路径切换到 TILE 会明显更快。以下是一些作者报告的结果（关闭 MTP）： - Qwen3.6-35B, q4_0 KV @ 118,784: 12.99 → 29.61 t/s（+127.9%） - Qwen3.6-35B, q8_0 KV @ 118,784: 12.90 → 31.80 t/s（+146.5%） - Gemma 4 12B, q4_0 KV @ 118,784: 5.06 → 13.59 t/s（+168.7%） - Gemma 4 12B, q8_0 KV @ 118,784: 5.13 → 13.81 t/s（+168.7%） 这不仅仅是极端的 118K 场景。在 32K 下，相同的 JIT 测试在测试的 Qwen/Gemma 配置上大约提升了 +42% 到 +74%。有趣的是，这个实际改动非常小。该 PR 基本上只是更改了调度门控，使量化 KV 解码选择 TILE 而不是被迫走 VEC，并添加了 “GGML_SYCL_FA_DECODE_KERNEL=vec|tile|auto” 以便进行 A/B 测试。 重要注意事项： - PR 处于开放状态，尚未合并 - 这些大多是作者报告的基准测试 - PR 中未指明具体的 Battlemage GPU SKU - 这专门针对量化 KV；F16 保持原有调度 - 一个 118K MTP 测试仅从 17.65 提升到 20.14 t/s（+14.1%） - 后端测试通过 4001/4001，但还没有独立的硬件全面测试 该 PR 还转述了一个 Laguna-S-2.1 Discord 测试结果，显示在 64K 下 +50%、118K 下 +68%，但我仍然希望看到真正的独立结果。有 B580 或 B70 的朋友能在 64K/118K 下复现吗？我尤其好奇在启用 MTP 后，这种巨大提升是否仍然存在。