7900xtx 提速了
摘要
用户分享的一个 GitHub 仓库展示了在 AMD Radeon RX 7900 XTX GPU 上本地运行 Qwen3.8 27B 时，推理速度得到显著提升。
如果你正在 RX 7900 XTX 上运行 qwen3.8 27B，看看这个，提速效果非常棒 https://github.com/thefahien/elpis-on-7900xtx
相似文章
在16GB显存的RTX 4080上运行Qwen3.8-27B的提速指南
本指南说明如何配置llama.cpp的DFlash2推测解码，以在配备16GB显存的RTX 4080 GPU上实现Qwen3.8-27B模型最高1.72倍的推理速度提升。
现在可以在 AMD NPU 上通过 FastFlowLM 运行 Qwen 3.8 27B（解码速度约 1 tps）
AMD 的 ROCm/FastFlowLM 现已支持在 Ryzen AI XDNA2 NPU 上运行 Qwen 3.8 27B（以及其它 MoE、视觉、音频和嵌入模型），无需 GPU，最高支持 256k 上下文，运行时仅 17 MB 轻量级——不过 27B 模型的解码速度被指出仅为较慢的 1 token/s。
@TeksEdge：一位本地性能达人仅用单张RTX 3090运行Qwen3.8-27B，达到约381 tok/s。这位开发者将24GB的RTX 3090变成了一个mo…
一位开发者通过使用DFlash2和前缀缓存等优化技术，在单张RTX 3090上运行Qwen3.8-27B模型，实现了高达381 tok/s的推理速度，特别适用于RAG和编程助手等文档相关任务。
@seclink: 这家伙刚刚在一块单张 3090 显卡上，跑出了 Qwen 3.5-27B Dense 模型 134 tok/s 的速度，以及新版 Qwen 3.6-27B 模型 73 tok/s 的速度。2026 年的开源社区，其发展速度简直如神速一般。…
A single RTX 3090 achieves 134 tok/s on the new 27B Qwen 3.5 Dense and 73 tok/s on Qwen 3.6-27B using fused kernels and speculative decoding, with same-day GGUF releases.
我将 Qwen3.8-27B 在 RTX 3090 上优化至单请求 99 tps 和批量请求 1150 tps
作者在 RTX 3090 GPU 上优化了 Qwen3.8-27B 模型的推理，通过各种量化和优化技术，实现了单请求高达 99 tps 和批量处理 1150 tps 的性能，并在 GitHub 上发布了更新的代码。