我无法让Qwen3.6 27B超越Qwen-Coder-Next,不确定原因

Reddit r/LocalLLaMA 新闻

摘要

用户报告称,Qwen-Coder-Next 在实际测试和合成基准测试中均优于 Qwen3.6 27B,尽管其他人称赞 27B,用户寻求关于可能设置问题的建议。

在我的实际使用(opencode)和合成基准测试中,Coder-Next(Q5)碾压了整个Qwen3.6系列,包括27B Dense模型(全部Q8)。其他人都称赞27B更优秀,是一个非常棒的模型,但我无法复现任何这些结果。Coder-Next似乎表现超常,而27B表现不佳。我正在使用模型卡上的推荐设置,并且尝试了几个27B模型,包括Unsloth发布的MTP版本。我使用的是llama.cpp,搭配96GB版本的Strix Halo机器。我原以为是速度导致它出错,但35BA3B的表现也很差。有人遇到过这种情况吗?27B只是在与其他GPU规模的模型进行比较,还是我的设置有什么不优化之处?
查看原文

相似文章