标签
一篇博客文章,讨论了构建自定义游戏引擎的原因和考量,由Unity的定价争议引发。
为Orange Pi AIPro(Ascend 310B NPU)上的MiniCPM-V 4.6开发了自定义C++推理引擎,通过为matmul和causal-conv1d编写优化的AscendC内核,实现了相比原始框架2倍的加速,达到5.90 tokens/s。