为什么A10b以下的MOE让我像在赌博

Reddit r/LocalLLaMA 模型
moe qwen coding model-comparison coherence

摘要

开发者报告称，像 qwen3.6-35b-A3b 这种“活跃参数量”较小的 MOE 模型，相比稠密的 qwen3.5-27b，一致性更低、需要更多引导，很难直接塞进智能体工作流。

最近冒出来一堆 MOE。速度确实炸裂，但代价是连贯性——除非每次推理的活跃参数 ≥10B。我长期用这些模型写代码，最近试了 **qwen3-coder-next、qwen3.5-35b、qwen3.6-35b**，结果没有一个能像 qwen3.5-27b 那样稳，连 qwen3.6-35b-A3b 也翻车？A3b 版 MOE 虽然能把题解出来，但得一直牵着走、多轮纠偏。它老想调用 Coding Harness 里跟问题无关的工具，逼得我只能手动关掉一堆工具才能让它聚焦；而 27b 版稠密模型凭直觉就能无视无关工具。这还只是冰山一角。35b-A3b 的“下一步要干啥”波动比 27b 大得多。我也想用 MOE，但真找不到能塞进智能体工作流的场景。编辑：英语好难，懂我意思就行？至少我把错别字留着，省得你们以为这是机器人账号，哈哈。
查看原文

相似文章

4x RTX 3090 上的 Qwen3.5-27B、Qwen3.5-122B 和 Qwen3.6-35B —— MoE 模型在严格全局规则下的表现困境

Reddit r/LocalLLaMA

潜水多年的老用户，首次发帖。在 4 张 RTX 3090 上对三款 Qwen 模型分别进行了 20 多个会话的实时智能体工作测试——**Qwen3.5-27B** 稠密模型、**Qwen3.5-122B-A10B** MoE 和 **Qwen3.6-35B-A3B** MoE。以下数据均解析自持续真实负载下的 vLLM 日志，而非合成基准测试。**本文所有数据的关键负载背景：** 测试框架是一个多智能体编排器，同时运行 1-6 个并发的 OpenCode 会话，Prompt 长度为 30-60k token，并且强制执行**严格的 Bash 允许列表

Qwen3.5 122B 是最好的吗？

Reddit r/LocalLLaMA

一位用户分享了他们在复杂工具调用任务中比较多个大语言模型（Qwen、Gemma）的经验，认为 Qwen3.5 122B 最可靠，同时批评了较小的 MoE 模型不稳定。