Strata + Qwen 3.8 Flash Next：速度快，但质量代价几何？

Reddit r/LocalLLaMA 新闻
strata qwen-3 model-optimization quantization mixture-of-experts benchmarking

摘要

一位用户质疑 Strata 的高性能宣传：虽然 tokens per second 和针尖测试数据亮眼，但其剪枝专家（pruned experts）与量化是否牺牲了实际输出质量，尚未经过验证，建议用 llama.cpp 上运行相同 GGUF 来做对照测试。

最近关于 Strata 的宣传铺天盖地，速度看起来确实很棒。但我看到的所有数据都是 tokens per second 和针尖测试（needle tests）。有没有人验证过质量是否真的经得起考验？在 llama.cpp 上运行相同的 GGUF 应该能回答量化的问题，但 Strata 还做了专家剪枝（prunes experts）。这在实际使用中会不会带来损失？
查看原文

相似文章

Strata - Qwen 3.8 Flash Next - 提升解码速度的小技巧

Reddit r/LocalLLaMA

用户分享了基准测试结果：在 Strata 中将 --adapt-every 参数从 1 提升到 6 后，多个 Qwen 3.8 Flash Next 提示词的 token 生成速度提升了 9-55%，其中长上下文代码描述场景的提升幅度最大。

搭配 Qwen3.8 Flash Next UD-Q4_K_XL 的 Strata

Reddit r/LocalLLaMA

一位用户报告称，在配备 RTX PRO 6000 的 Strata 上运行采用 Unsloth UD-Q4_K_XL 量化的 Qwen3.8-Flash-Next 时，单请求解码速度表现出色；在文本写作、计数、编程和推理任务中，其吞吐量约为同一 GPU 上 vLLM 的 2 倍。