标签
BitRun 是一个可在普通笔记本 CPU 上零编译运行 1-bit 三值 LLM 的独立工具，在 Apple M4 Pro 上可达 98–127 t/s、Intel i5 上 40–45 t/s，并修复了微软 bitnet.cpp 代码库中的多个底层 C++ 内核 bug 并提交了上游 PR。
一位用户发布了微软从未公开发布的 BitNet 训练器，以及用于训练和推理的自定义内核，同时强调了微软的 bitnet.cpp 推理框架，该框架可在 CPU 和 GPU 上实现快速 1 位 LLM 推理。
PrismML宣布推出Bonsai 27B，这是Qwen3.6 27B的1位与三元量化版本，可在手机和笔记本电脑上运行，保留基线性能的90-95%，占用3.9GB空间，支持自主智能体与多模态的端侧AI。
Bonsai 27B是一个1比特密集型大语言模型，通过使用自定义WebGPU内核可以在浏览器中本地运行，实现高效的设备端推理。
微软官方 BitNet 仓库（bitnet.cpp）的持续更新合集：提供 1-bit/1.58-bit LLM 的高效 CPU/GPU 推理框架，近期新增 BitNet-embedding 0.6B/270M 嵌入模型、I2_S 量化优化内核以及实时多语种 ASR 推理引擎 VibeASR.cpp。