@no_stp_on_snek: 这太厉害了！3090 级别的 GPU 欢呼吧！
摘要
Unsloth AI 发布了量化版 Qwen3.6 模型，在消费级 GPU 上运行速度快了 2.5 倍。其中 27B 模型可适配 24GB 显存，35B-A3B 模型实现了高吞吐量。
查看缓存全文
缓存时间: 2026/07/10 20:15
这太牛了。3090 级别 GPU 用户欢呼吧！
Unsloth AI (@UnslothAI)： 我们正在发布新的 Qwen3.6 量化版本，在你的 GPU 上运行速度提升 2.5 倍。
Qwen3.6-27B NVFP4 可在 24GB 显存下运行。 35B-A3B 版本能达到 17,561 tok/s（B200 上）。
我们还改进了精度、工具调用、智能体使用以及循环性能。
指南：https://t.co/EEQIlFrR0c Qwen3.6 NVFP4：
相似文章
@mr_r0b0t: 叫上兄弟们，新的 @UnslothAI NVFP4 刚刚发布
Unsloth AI 发布了新的 NVFP4 量化 Qwen3.6 模型，在 GPU 上运行速度提升 2.5 倍，并提高了准确性和工具调用能力。
Wow！Qwen 3.6:35b-a3b 在 3090 上……太惊人了。
一位用户分享了在二手 RTX 3090 上运行量化版 Qwen 3.6:35b-a3b 模型的惊人结果：将模型放入显存后，输出速度达到每秒 160 个 token，并以 75 秒的视频处理时间展示了视觉能力。
@rumgewieselt：现在变得疯狂了……三块 1080 Ti（Pascal架构，33GB VRAM）Qwen 3.6 27B MTP 搭配 196K TurboQuant，持续 ~28-30 t/s
一位用户成功在三个 GTX 1080 Ti GPU 上对 27B 参数的 Qwen 模型进行本地推理，通过 TurboQuant 优化达到了约 28-30 tokens/秒的速度。
@DeepTechTR: Qwen 3.6 27B 在16 GB VRAM下速度极快！Pure Quant技术带来的影响——27B模型流畅运行的时代已来临……
Qwen 3.6 27B 在16 GB VRAM上运行快速，得益于'Pure Quant'技术，通过MTP达到40 tokens/s，并支持64k上下文，使得本地AI能在RTX 4060 Ti等消费级GPU上运行。
@MiaAI_lab: Nvidia又做到了！@NVIDIAAI的Qwen 3.6 27B NVFP4比Unsloth的Qwen 3.6 27B NVFP4在D…上快了约41%
Nvidia优化后的Qwen 3.6 27B NVFP4模型在DGX Spark上相比Unsloth版本，单次推理速度快41%，并发推理速度快23-25%。