1-bit-llm

一位用户发布了微软从未公开发布的 BitNet 训练器，以及用于训练和推理的自定义内核，同时强调了微软的 bitnet.cpp 推理框架，该框架可在 CPU 和 GPU 上实现快速 1 位 LLM 推理。

PrismML宣布推出Bonsai 27B，这是Qwen3.6 27B的1位与三元量化版本，可在手机和笔记本电脑上运行，保留基线性能的90-95%，占用3.9GB空间，支持自主智能体与多模态的端侧AI。

Bonsai 27B是一个1比特密集型大语言模型，通过使用自定义WebGPU内核可以在浏览器中本地运行，实现高效的设备端推理。