@no_stp_on_snek：DeepSeek-V4.1-Flash 运行于 2 张 Sparks 上。thinking 设为高，TP=2。处理了 55M tokens。这是实际的内核优化工作，并非演示。它阅读了笔记并…

DeepSeek-V4.1-Flash 运行于 2 张 Sparks 上。thinking 设为高，TP=2。处理了 55M tokens。这是实际的内核优化工作，并非演示。 它阅读了笔记和 PRD，运行了 A 与 B 方案的对比测试，确认了改进效果，然后提交了一个拉取请求（PR）。 我看到了它发布代码。这不是我写的。 修复要点一览： 因果注意力（causal attention）是一个“三角形”。但之前的内核启动的还是整个“正方形”。 每一个严格未来的 tile 块仍然会占用一个线程组槽位，唤醒后检查“我是否被允许执行？”，然后才退出。在强大的 GPU 上，这可以忽略不计。但在 Metal 上，当你在本地模型中实际输入 128–192 个 token 的预填充（prefill）时，启动开销在首 token 时间（time-to-first-token）中占据了相当大的比例。 因此，我们只启动对角线及其下方的 tile 块。数量为 T(T+1)/2 而非 T*T。数学运算量相同，但唤醒的线程更少。 在 M5 Max 上，完整注意力链，交错 A/B 方案，测试 15 轮：bf16 格式，seq=192：性能比为 0.924x（−7.6%），在 15 对比较中全部获胜。在 token 数为 128 时，16 个 tile 块中有 6 个被保留（仅使用 10 个）。有三分之一的启动在执行前就是无效的。 这不是一个新的矩阵乘法（matmul）。我们只是停止为那些已被掩码（mask）丢弃的计算付费。提升幅度很小。这恰恰说明这是固有的开销，而非一种测试场上的技巧。