Qwen 3.6 27B 在代理任务上完全失败

我使用 Qwen 3.5 122B 的 4 位量化版已经有一段时间了，最近在 Llama.cpp 性能与 VLLM 相当后，我开始使用 5 位量化版。我还多次尝试过使用 8 位和 16 位量化的 Qwen 3.6 27B，因为很多人声称 27B 比 122B 更好。确实，在单次提示上它表现更好。它能生成非常令人印象深刻的演示 HTML 页面。它生成的内容长度远超 3.5 系列的任何模型。然而，在代理任务上，它完全崩溃了。它不断出错，并且不遵循指令。我无法让这个模型不出错。大约每四轮对话，它就会做一些完全无脑的事情。我是唯一注意到这一点的人吗？在再次尝试让 27B 工作失败后，我又回到了使用 122B。环境是 Llama.cpp（从 Git 每晚编译），运行在 RTX 6000 上。