我希望ternary最终能行,但……唉
摘要
用户对来自Prisml的ternary Bonsai模型表示失望,质疑其质量尽管有炒作,并怀疑这是否只是典型的模型过度炒作。
“如果你在走路,那就随身带上车钥匙。”只是想试试ternary Bonsai模型,它已经炒作了一段时间,我对Prisml的整体表现印象深刻,但27B参数似乎非常非常糟糕,是我错过了什么,还是这只是常见的模型炒作,似乎没人用?
相似文章
Ternary Bonsai 是无头鸡
用户测试了 Ternary Bonsai 2 27B AI 模型,输入了一个创意提示,但模型陷入了无限循环,数小时重复而无进展,令人失望。
prism-ml/Ternary-Bonsai-2-27B-gguf
发布 Ternary-Bonsai-2-27B-gguf,一款 27B 参数的语言模型,采用三元权重实现极端压缩(5.9 GB),同时保留 98.2% 的 FP16 精度性能,并针对笔记本电脑和单 GPU 的高效推理进行优化。
现在可以微调 Prism-ML 的三元 Bonsai 模型
Prism-ML 宣布他们的三元 Bonsai 模型现在可以进行微调,提供了示例代码,并建议使用较高的学习率。
基于 Qwen 3.5 的 Ternary Bonsai 2 系列:2B、4B 与 9B
PrismML 推出基于 Qwen3.5 的 Ternary Bonsai 2 系列新模型 2B、4B 和 9B,采用 {−1, 0, +1} 三值权重表示,内存占用比全精度模型小 9 倍以上,并在吞吐与能效上最高提升 5 倍和 3 倍,面向手机、电脑和可穿戴设备上的本地智能体场景。
对Ternary Bonsai 2 27B的评价如何?
用户正在寻求建议,考虑在GPU受限的环境下从Ornith 1.5 9B模型切换到Ternary Bonsai 2 27B,并询问其他类似规模的有竞争力的模型。