我希望ternary最终能行,但……唉

Reddit r/LocalLLaMA 新闻

摘要

用户对来自Prisml的ternary Bonsai模型表示失望,质疑其质量尽管有炒作,并怀疑这是否只是典型的模型过度炒作。

“如果你在走路,那就随身带上车钥匙。”只是想试试ternary Bonsai模型,它已经炒作了一段时间,我对Prisml的整体表现印象深刻,但27B参数似乎非常非常糟糕,是我错过了什么,还是这只是常见的模型炒作,似乎没人用?
查看原文

相似文章

Ternary Bonsai 是无头鸡

Reddit r/LocalLLaMA

用户测试了 Ternary Bonsai 2 27B AI 模型,输入了一个创意提示,但模型陷入了无限循环,数小时重复而无进展,令人失望。

prism-ml/Ternary-Bonsai-2-27B-gguf

Hugging Face Models Trending

发布 Ternary-Bonsai-2-27B-gguf,一款 27B 参数的语言模型,采用三元权重实现极端压缩(5.9 GB),同时保留 98.2% 的 FP16 精度性能,并针对笔记本电脑和单 GPU 的高效推理进行优化。

基于 Qwen 3.5 的 Ternary Bonsai 2 系列:2B、4B 与 9B

Reddit r/LocalLLaMA

PrismML 推出基于 Qwen3.5 的 Ternary Bonsai 2 系列新模型 2B、4B 和 9B,采用 {−1, 0, +1} 三值权重表示,内存占用比全精度模型小 9 倍以上,并在吞吐与能效上最高提升 5 倍和 3 倍,面向手机、电脑和可穿戴设备上的本地智能体场景。

对Ternary Bonsai 2 27B的评价如何?

Reddit r/LocalLLaMA

用户正在寻求建议,考虑在GPU受限的环境下从Ornith 1.5 9B模型切换到Ternary Bonsai 2 27B,并询问其他类似规模的有竞争力的模型。