我觉得Qwen-Next在编码方面似乎比3.8 27b差,但我觉得可能我漏掉了什么?

Reddit r/LocalLLaMA 新闻

摘要

一位用户分享了比较Qwen-Next和3.8 27b模型在编码方面的经验,发现3.8 27b在处理较难任务时更强,并疑惑自己是否漏掉了什么。

你好!我在我的m5 max上使用MTPLX运行这两个模型,由于我有128GB的内存,我运行的是q8 27b。我认为MTPLX只允许我运行“针对速度优化”模式,它声称是动态q4和8位注意力。说实话,它们都非常快!在编码方面(使用pi agent在nodejs中),我注意到27B在处理较难任务时感觉更强。但我在这里读到很多人说qwen-next更好,所以我可能只是做错了或想错了?(另外,阿里巴巴居然免费制作并发布了这些惊人的模型,真是太棒了!❤️)
查看原文

相似文章

Qwen 3.8 27b 即使在 Q3_xxs 下也很强大

Reddit r/LocalLLaMA

用户发现 Qwen 3.8 27b 在 Q3 量化下对编码任务非常高效,推理速度快,超越了之前的模型,尽管在日常对话中存在一些小问题。