inference-software

标签

#inference-software

如果您在Strix Halo上运行Qwen 3.8 Flash Next，请使用此软件进行推理。它比llama.cpp快得多，尤其是在高上下文情况下。

Reddit r/LocalLLaMA ↗ · 5天前

一位用户推荐了一个GitHub项目，用于在Strix Halo上更快地推理Qwen 3.8 Flash Next，展示的基准速度显著优于llama.cpp。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈