ascend-npu

OpenBMB 发布了 BitCPM4-CANN，这是一套原生训练的三元量化1.58位LLM集合（参数规模0.5B到8B），通过CANN针对昇腾NPU进行了优化，推理时内存减少6倍，训练开销极低。