int4

本文介绍了两个配置标志，它们将官方Ling-3.0-flash INT4在单个DGX Spark上的推理速度从20.8 tok/s提升到38.7 tok/s，同时提醒需要使用特定的vLLM分支，并指出在长上下文性能方面的权衡。

本文比较了 Qwen3.6-27B 的三种量化变体（Unsloth 和 Nvidia 的 NVFP4，Intel 的 int4-AutoRound），并向社区请求基准测试和幻觉数据。

报告了在 PrismaQuant 上使用 Oculink 对 RTX Pro 4500 GPU 进行 INT4 Autoround 和 NVFP4 W4A4 量化模型的测试。

针对GLM-5.2 744B MoE模型的预转换int4量化权重，旨在使用colibrì引擎在约25GB内存的消费级硬件上运行。

用户分享了一种在单台 DGX Spark 上使用 vLLM 运行 Qwen 3.5 122B Int4 的优化方案，实现了每秒超过 40 个 token 的速度。他们邀请其他人尝试并进一步优化。

Reddit 帖子对比了 Qwen3.6-27B 的多种量化版本（INT4、NVFP4、BF16-INT4），展示不同场景下内存占用与精度的权衡。