标签
ik_llama.cpp 现已全面支持 PrismML 的 Ternary Bonsai 2，具备原生 CUDA 卸载、无损权重重打包，以及通过 -rtr 1 实现的快速 CPU 提示词处理功能，消除了此前的符号张量瓶颈。该帖子提供了一份配置指南，涵盖 PQ2_0 转换和推荐的命令行参数。