ascend-npu

CANN Bench是一个开放基准测试，用于评估在华为Ascend NPU上由AI生成的算子内核，涵盖53个运算符和1060个测试用例，覆盖多种精度格式和难度等级。

OpenBMB 发布了 BitCPM4-CANN，这是一套原生训练的三元量化1.58位LLM集合（参数规模0.5B到8B），通过CANN针对昇腾NPU进行了优化，推理时内存减少6倍，训练开销极低。