@no_stp_on_snek: Dense 与 MOE - MOE 能否跟上 Dense 的质量？源于一个朋友遇到的问题。他有一个 agentic 运行任务…

Dense 与 MOE - MOE 能否跟上 Dense 的质量？ 源于一个朋友遇到的问题。他有一个使用 gemma4 的 agentic 运行任务需要 5 小时。对他来说有点慢。他正试图决定是否要获取一个 Spark 来加速，但不能牺牲质量。那么，拥有更少活跃参数的 MOE 模型能否真正跟上？ 所以我拿了他的独立测试，并在一堆模型上运行，包括 MOE 和 Dense 模型。Ornith 1.5 是我比较的第一个接近的模型，因此重点关注它。 它足够接近，可以开始在他的流程中测试，但不确定最终结果是否真的能产生与 gemma4 相等的质量，因为在失败中存在明显差异，这就引出了问题：有多少通过的结果也存在差异？ 那么他应该使用 MOE 而不是 Dense 吗？这取决于你的用例。回答一部分问题来衡量“质量”是不够的。他需要进行完整运行，并在多次迭代中比较输出。 在我测试 Ornith 之后，我测试了一堆其他模型。如你所见，可靠的老牌 qwen3-Code-Next（以及 qwen 系列表现相当不错： 完整 3,700 个问题运行结果 Gemma 4 31B Turbo3 3,447–3,459 | 93.16–93.49% Qwen3-Coder-Next Q8 3,444 | 93.08% Qwen3.8-27B FP8 3,442 | 93.03% Gemma 4 Turbo4 3,437 | 92.89% Ornith 1.5 35B-A3B Q8 3,413 | 92.24% Nemotron 3 Super 120B-A12B NVFP4 3,407 | 92.08% Ornith abliterated NVFP4 3,324 | 89.84% DeepSeek V4 Flash abliterated Headroom128 1,958 | 52.92% 注意：问题是一个私有的精选列表，应该有可判断的答案，要么正确要么不正确。