标签
作者讨论了LLM推理引擎生态日益碎片化的现象，从早期依赖llama.cpp转向各种分支项目（如Niffler、Strata、Avalon、Basalt等），并质疑llama.cpp为何在性能上落后于许多独立开发者的作品。