ternary-llm

近期来自小型实验室的三元1.58位大语言模型发布展示了速度和医疗专业性，但在长期任务上表现不佳，乐观地认为未来模型能与像Qwen这样的大型架构竞争。

BitCPM-CANN 是首个在完全基于中国自主研发AI基础设施（华为昇腾910B）上训练的开源1.58位三值大语言模型，实现了极致的存储缩减，适用于边缘部署。