Tag
作者将 adaptive KV streaming 从 CUDA 移植到 ROCm/HIP，并结合 RDNA 4 内核优化，使 Qwen3-27B (IQ4_XS) 能在单张 16GB RX 9070 XT 上以完整 262k 上下文运行，MTP 解码达到 80+ t/s。项目包含大量内核级优化与功耗调优结果，已发布到 GitHub 分支。