针对Strix Halo - 官方llama.cpp并非理想选择及如何实现最高吞吐量

我一直在就Strix Halo (gfx1150) 的最佳设置发表许多评论，根据我的观察，我们社区中有90%的人在使用官方llama.cpp，但它并未针对Strix Halo进行优化，官方llama.cpp极难达到硬件理论性能的50%，浪费了该设备的硅芯片资源。以下是能将Strix Halo的速度提升至全新境界的替代方案，我将链接用户满意评论以证明结果真实： https://github.com/peonist-ai/halogen-flash-server - 约50t/s解码和1200t/s预填充 - 90%理论性能 - 仅针对Strix Halo和Qwen 3.8 Flash Next (Q38FN - Strix Halo的最佳首选模型)优化，如果你听说过Ninfer，这正是Strix Halo版的Ninfer。 https://github.com/myhacsint/llama.cpp/tree/production/strix-halo-qwen4exp-b10685 - 近60t/s解码和600t/s预填充 - 80%理论性能 - 这是针对Q38FN的实验分支，具有非常高的解码速度和相当不错的预填充性能。 https://github.com/halo-box/strix-llama.cpp - 近30t/s解码和800t/s预填充 - 75%理论性能 - 最新提交大幅提升了预填充性能，这是r/StrixHalo首个持续更新的fork，拥有一个活跃的Discord服务器和大量用户。 注意：官方llama.cpp运行Qwen38FN时解码速度为2xt/s，预填充速度为2xxt/s - 50%理论性能。 希望这对Strix Halo用户有所帮助。