@BenjaminDEKR: 我现在正在用一块 5070 Ti（16GB 显存）进行测试，目前的表现真的非常令人印象深刻。

X AI KOLs Following 模型
ai-model model-compression quantization gpu-inference benchmark

摘要

一名用户正在使用 NVIDIA 5070 Ti GPU 测试新发布的 Ternary Bonsai 2 27B AI 模型，这是 Qwen3.8 27B 的更小且量化版本，并对其性能感到印象深刻。

我现在正在用 5070 Ti（16GB 显存）测试这个，目前的表现真的非常令人印象深刻。
查看原文
查看缓存全文

缓存时间: 2026/09/18 02:29

我现在正在用5070 Ti（16GB显存）测试这个，目前表现非常令人印象深刻。

PrismML (@PrismML)： 今天，我们宣布推出Ternary Bonsai 2 27B模型。

基于Qwen3.8 27B架构的Bonsai 2 27B，在整体尺寸缩小9倍的情况下，仍保留了全精度版本98.2%的基准测试综合性能。

距首款Bonsai 27B发布两个月后，本次更新最大的改变在于质量提升。

相似文章

三元 Qwen3.6 27B 在 3090 上测试！

Reddit r/LocalLLaMA

用户在 RTX 3090 上测试了三元量化版本的 Qwen3.6 27B，使用两个槽位和 100k KV 缓存，占用 21GB 显存，达到了 60 tk/s 的速度，质量良好且工具调用稳定。