我使用 Qwen 3.8FN IQ3_S 测试了 Strata 的路由优化在编程、数学和指令遵循方面的表现

截至 0.2.7.1 版本，Strata 有两项路由优化，可能同时影响性能和质量。我很好奇实际影响如何，于是在自己的硬件上使用 Qwen 3.8 Flash Next IQ3_S 做了一些测试。STRATA_ROUTE_PRIOR 这是新增的一项——该优化会为已缓存在 VRAM 中的专家的分数增加 1.5（有效权重约相当于乘以 4.48），使 Strata 更倾向于使用已在 VRAM 中的专家。这意味着，只要基础分数足够接近，一个原本稍不受青睐、但已缓存的专家，就可能取代模型通常会选择的专家。STRATA_ROUTE_TAIL_SKIP 这一项简单得多——当 STRATA_ROUTE_TAIL_SKIP=7（默认值）时，如果第 7 至第 10 个专家尚未驻留在 VRAM 中，Strata 就会跳过它们的计算。它不会改变选中的专家，只会丢弃已选专家中较不重要的那些专家的贡献。基准测试 我让 DS4-Flash 使用 IFEvalCode、AIME 2026 和 IFEval 对 Qwen 进行测试，然后与 ChatGPT 一起分析了结果。配置 解码速度 IFEvalCode（代码） AIME 2026（数学） IFEval（指令遵循） 两项均关闭 72.3 tok/s 24/120（20%） 23/30（76.7%） 122/150（81.3%） 尾部跳过 83.9 tok/s 24/120（20%） 19/30（63.3%） 123/150（82%） 路由优先 104.6 tok/s 20/120（16.7%） 20/30（66.7%） 118/150（78.7%） 尾部跳过 + 路由优先 104.2 tok/s 23/120（19.2%） 20/30（66.7%） 117/150（78%） 第二轮——使用大得多的思考预算，重新测试了一个较小的题目子集（主要是第一轮中答案出现差异的题目）。不应直接比较两轮的绝对百分比。配置 解码速度 IFEvalCode AIME 2026 IFEval 两项均关闭 72.3 tok/s 25/57（43.9%） 23/30（76.7%） 59/78（75.6%） 路由优先 104.6 tok/s 27/57（47.4%） 24/30（80%） 61/78（78.2%） 两项均开启 104.2 tok/s 23/57（40.4%） 24/30（80%） 56/78（71.8%） 我的解读 第一轮结果表明，STRATA_ROUTE_PRIOR 可能会略微降低质量，但第二轮表明，随着推理时间延长，其中许多差异就不再构成影响。路由优先带来的速度提升非常大，因此我认为，除最困难的任务外，都值得启用它。另一方面，STRATA_ROUTE_TAIL_SKIP 能带来小幅速度提升（在未启用路由优先时），但造成的质量下降明显大于仅启用路由优先时。我计划继续开展更广泛的测试，不过目前这些结果已经让我对这两项设置的取舍有了较为清晰的认识。感谢 Niko1221 打造了如此出色的推理引擎。