Qwen 3.6 27B 太牛了

这更多是一篇对在本地运行的 Qwen 3.6 27B（8 位 unsloth 量化）的快速赞赏帖。我主要是在 OpenCode 中将其与我的 35B 模型一起用于规划和编码。我也曾在 Open WebUI 中设置过它，但在大约两周前 llama.cpp 加入 MTP 支持之前，OWUI 上的 TPS 慢得令人痛苦，基本上无法用于聊天。自那以后，我将它们配对，并将 Qwen 27B 作为日常聊天助手与 Gemini Pro 一起使用。我一直在心里对两者进行持续比较。对于简单的问题，Gemini 处理得还不错。但上周末我深入研究了职业建议和公司投资组合，以及一些移民研究。Gemini 在这方面完全崩溃了。它开始产生幻觉，并根据对话中的早期消息和我之前的聊天记录执着于某些内容。我认为这种退化在过去几周左右开始出现，想知道其他人最近对 Gemini 的体验。我最终自己做了大量手动研究。然后我决定用 Qwen 3.6 27B 尝试同样的研究。我真的很惊讶它在职业/公司相关内容和移民研究方面表现要好得多。移民结果尤为突出，因为它实际上需要查阅官方文档并理解其含义，而不是简单地重复某些内容。另外，我也尝试了 Gemma 4 31B，听说它非常适合研究和规划，但在我的 M5 Max 128GB 上以 8 位量化运行时速度太慢。想知道大家对此的看法，也许一旦 MTP 支持启用，我会再试试它。