Qwen 3.6 35B A3B 的热度绝非虚名!

Reddit r/LocalLLaMA 模型

摘要

作者对小型本地 LLM 进行了基准测试,重点突出了 Qwen 3.6 35B A3B,其将学术代码与研究论文进行映射的能力优于 Gemma 4 和 Nemotron 3 Nano 等模型。

我用来测试小型本地 LLM 智能程度的个人标准是,检查模型是否具备理解我为学术研究所编写代码的能力。我的研究涉及一些非常小众的话题,我怀疑大型语言模型的训练集中几乎不包含与之实质性相关的内容。几个月前,小型本地模型理解我代码的能力充其量只是聊胜于无,其中 [Devstral Small 2 表现最佳](https://www.reddit.com/r/LocalLLaMA/comments/1ry93gz/devstral_small_2_24b_severely_underrated/?utm_source=share&utm_medium=web3x&utm_name=web3xcss&utm_term=1&utm_content=share_button)。然而,现在许多小型开放权重模型采用了支持相当**长上下文**的方法(如门控 Delta 网络、混合 Mamba2、滑动窗口注意力机制),这使得它们变得***极其*****聪明**。我现在可以将整篇学术论文及其配套代码输入给模型,并要求它利用论文内容来分析代码的功能。我花了几天的时间对以下模型进行了实验: * Qwen 3.6 35B A3B * Qwen 3.6 27B * Gemma 4 26B A4B * Nemotron 3 Nano **所有**这些模型理解我代码的能力,都显著优于几个月前任何*小型*本地模型的表现。我也尝试了 Devstral Small 2,因为我最近从单张 16GB 显卡升级到了两张;但是,我无法在 32GB 的内存中容纳长上下文。我希望 Mistral 能发布一款采用门控 Delta 网络的新小型模型,因为我认为它有望夺回王座。[以下是我的详细发现](https://github.com/nathanlgabriel/paper_code_mapping_assessment/blob/main/README.md),内容是关于要求本地模型解释我的代码如何映射到其对应的研究论文。 长话短说:上述四种模型都是非常强大的本地模型,其中 Qwen 3.6 35B A3B 表现最为突出。我也倾向于认为,一位配合这四种模型中*任意一种*的智能人类,其能力胜过独立运行的 Opus 4.7(详见详细发现)。请告诉我你们的看法!
查看原文

相似文章

Qwen 3.6 27B 太牛了

Reddit r/LocalLLaMA

一位用户分享了在本地使用 Qwen 3.6 27B 进行复杂研究和编程的积极体验,发现它在职业建议和移民研究方面优于 Gemini Pro,同时也提到 Gemma 4 31B 存在性能问题。

Qwen 3.8 27B Aider 得分

Reddit r/LocalLLaMA

用户使用 Aider 对 Qwen 3.8 27B 进行基准测试,发现其得分为 72.9,与 Gemini 2.5 Pro 相当,并通过 vLLM 在 MacBook 上进行本地推理,优于其他最先进模型。