标签
ROCmFPX 的 gated delta net prefill 内核已优化为通过 RDNA3 WMMA 处理 16 个 token 的分块,而非逐个 token 处理,将每次 512-token 调用的延迟从 772µs 降至 610µs,各配置下 prompt 处理吞吐量提升约 2-4%,Strix Halo 的测试仍在进行中。
GNU Guix 正式将 AMD 的 HIP 与 ROCm 生态作为一等公民支持,使在 Guix 中进行 AMD GPU 计算栈的功能化打包与部署更加顺畅。
AMD 发布 ROCm 10.1,重点突破数据搬运瓶颈,通过 AMD Infinity Storage (hipFile)、HIP 运行时的 NUMA 感知内存分配以及 ROCm CLI 和 AMD Skills 等开发者工具提升 GPU 数据传输与训练推理效率。
本文介绍AMDKernelVault,这是一个用于AMD GPU内核优化的开放数据集和训练框架,包含大规模HIP和Triton内核,以及用于生成和验证内核的代理驱动流水线。
此工具提供可复现的 Windows 环境,用于在 AMD GPU 上运行针对 CUDA 的应用程序,使用 ZLUDA 和 AMD HIP/ROCm,并通过 RX 9060 XT 和 LibTorch 工作负载进行了验证。
此拉取请求为 llama.cpp 项目中的 CUDA/HIP 引入了 Flash Attention 调优优化,针对 gfx1201 硬件以提升推理性能。
已创建一个 llama.cpp 的分支,并针对 AMD GFX906 GPU 进行了优化,提升了 Mi50、Mi60、Radeon VII 和 GCN HIP 上的性能,适用于机器学习和大语言模型应用。
一个结合 SFT 和 GRPO RL 后训练的多智能体合成数据流水线,为 14B 开源模型在 AMD MI350X GPU 上提升了 HIP 的编译和正确性。