好吧,行,Qwen 3.8 Flash Next 挺不错的

Reddit r/LocalLLaMA 模型

摘要

一位用户分享了通过 strata 运行 IQ4 xs 量化版 Qwen 3.8 Flash Next 的良好体验,认为其表现优于自己去年在工作中使用的模型。

我已经尽可能忍住了,但最后还是没忍住,把 strata 配好了。真的相当惊艳。之前我的主力是 3.8 27b,跑在 Q6 kv8 配置下,效果非常好,但 strata 里的 Flash Next IQ4 xs 真的越来越让我心动了。它并不完美,但感觉已经能媲美我去年工作中用的那些模型,而那些模型无论当时还是现在,都足以应付几乎任何任务了。你们真是把我带坏了。
查看原文

相似文章

Qwen3.8 Flash AP Quants

Reddit r/LocalLLaMA

该帖子宣布了Qwen3.8 Flash模型的新量化版本,通过改进的KLD测量和优化的预填充性能,超越了其他高质量量化版本。

……所以,是的。

Reddit r/LocalLLaMA

用户分享了在Mac M4Pro上运行Qwen3.8-Flash-Next模型的经验,强调通过量化获得更快的性能,并使用llama.cpp实现了131K的上下文大小。