Motif 3（314B A13B，支持NVFP4）看起来不错！？你们目前的使用体验如何？
摘要
新发布的大型MoE模型Motif 3（314B总参数，13B激活参数，支持NVFP4）似乎很有前景；作者想听听社区的使用体验。
它昨天才刚刚发布，但我很想听听更多关于它的看法。
相似文章
Motif-Technologies/Motif-3-Beta
Motif Technologies 发布了 Motif-3 的中期测试版检查点，这是一个大规模混合专家语言模型，总参数约 314B（激活约 13B），上下文长度 256K，并采用自定义架构如分组差分潜在注意力（GDLA），公开可用于非商业研究。
为什么A10b以下的MOE让我像在赌博
开发者报告称，像 qwen3.6-35b-A3b 这种“活跃参数量”较小的 MOE 模型，相比稠密的 qwen3.5-27b，一致性更低、需要更多引导，很难直接塞进智能体工作流。
Motif 3：技术报告
Motif 3 是一个具有 3140 亿参数的混合专家语言模型，每个 token 激活 132 亿参数，采用分组差分潜在注意力，并在 12.5 万亿 token 上完成训练，在推理、编程和长上下文任务中展现出具有竞争力的性能。
中型MoE大语言模型
用户寻求中等规模的混合专家大语言模型（MoE）推荐（最高60B参数（float8）/110B参数（mxfp4）），列出了Qwen 3.5 35B、Gemma 4 A4B和Nemotron 3 Nano，并询问除此之外还有哪些小众选择。
有人在使用 K2-Horizon-MoVA-36B-A4B 吗？如果有的话，用途是什么？
本文讨论了最近发布的 K2-Horizon-MoVA-36B-A4B MoE 模型，并询问其当前使用情况和潜在用例，提供了一个模型比较的链接。