Ternary Bonsai：1.58 比特下的顶级智能

Hacker News Top 2026/04/18 02:51 模型

quantization ternary-weights efficient-ai low-bit neural-network edge-deployment

摘要

一种使用三值权重（-1、0、1）的高效 AI 模型架构，仅需 1.58 比特/参数即可实现具有竞争力的性能，可部署在极度受限的设备上。

暂无内容

查看原文

相似文章

Hacker News Top

PrismML 发布 Bonsai Image 4B，这是一系列紧凑型图像生成模型，使用 1-bit 和三进制权重，能够在笔记本电脑和 iPhone 等本地设备上实现高质量扩散推理，同时显著减少内存占用。

X AI KOLs Following

BitCPM-CANN 是首个在完全基于中国自主研发AI基础设施（华为昇腾910B）上训练的开源1.58位三值大语言模型，实现了极致的存储缩减，适用于边缘部署。

Reddit r/LocalLLaMA

PrismML 发布了 Bonsai Image 4B 模型的二值和三值量化版本，使得文本到图像生成可以仅用 3GB 大小通过 WebGPU 在浏览器中本地运行，采用 Apache-2.0 许可证。

X AI KOLs Following

BitCPM 是一个来自 ModelBest、清华大学和 OpenBMB 的新开源模型，它使用三元权重（-1,0,1）在手机上运行全尺寸AI模型。

Hugging Face Models Trending

VibeThinker-3B 是一个拥有 3B 参数的模型，通过优化 Spectrum-to-Signal Principle (SSP) 后训练流程，在数学、编程和 STEM 基准测试上实现了前沿水平的推理性能，达到了与更大模型相当的性能。