ascend-310b

为Orange Pi AIPro（Ascend 310B NPU）上的MiniCPM-V 4.6开发了自定义C++推理引擎，通过为matmul和causal-conv1d编写优化的AscendC内核，实现了相比原始框架2倍的加速，达到5.90 tokens/s。