那么关于1-bit模型的共识是什么？它仍然是一个幻想吗？
摘要
讨论关于Bonsai 8b和27b等1-bit模型的可行性，这些模型在保持功能的同时实现了较小的文件大小，质疑其主要用例和未来。
Bonsai 8b在1-bit下大小约为1GB且功能正常，而27b也在1-bit下发布，大小仅为5GB左右。那么1-bit模型的未来是否光明？它们的主要用途是什么？
相似文章
Bonsai 27B（1位LLM）：首个能在手机上运行的27B级别模型
PrismML宣布推出Bonsai 27B，这是Qwen3.6 27B的1位与三元量化版本，可在手机和笔记本电脑上运行，保留基线性能的90-95%，占用3.9GB空间，支持自主智能体与多模态的端侧AI。
1-Bit Bonsai Image 4B 本地设备图像生成
PrismML 发布 Bonsai Image 4B，这是一系列紧凑型图像生成模型，使用 1-bit 和三进制权重，能够在笔记本电脑和 iPhone 等本地设备上实现高质量扩散推理，同时显著减少内存占用。
@xenovacom: Bonsai 27B 彻底改变了本地 LLM 的游戏规则。1位量化将其从 54GB 缩小到仅 3.8GB（减少 93%），同时……
Bonsai 27B 通过 1 位量化实现了 93% 的体积缩减，同时保留了 90% 的智能，借助自定义 WebGPU 内核实现本地浏览器推理。
Ternary Bonsai：1.58 比特下的顶级智能
一种使用三值权重（-1、0、1）的高效 AI 模型架构，仅需 1.58 比特/参数即可实现具有竞争力的性能，可部署在极度受限的设备上。
Bonsai 27B：使用自定义WebGPU内核在浏览器中本地运行的1比特密集型大语言模型
Bonsai 27B是一个1比特密集型大语言模型，通过使用自定义WebGPU内核可以在浏览器中本地运行，实现高效的设备端推理。