hip

标签

Cards List
#hip

@no_stp_on_snek: Gated delta net prefill 之前还在逐个 token 处理。现在 RDNA3 用 WMMA 一次处理 16 个 token 的分块。状态保留在……

X AI KOLs Timeline ↗ · 2026-10-10 缓存

ROCmFPX 的 gated delta net prefill 内核已优化为通过 RDNA3 WMMA 处理 16 个 token 的分块,而非逐个 token 处理,将每次 512-token 调用的延迟从 772µs 降至 610µs,各配置下 prompt 处理吞吐量提升约 2-4%,Strix Halo 的测试仍在进行中。

0 人收藏 0 人点赞
#hip

HIP 和 ROCm 成为 Guix 的一等公民

Lobsters Hottest ↗ · 2026-10-09

GNU Guix 正式将 AMD 的 HIP 与 ROCm 生态作为一等公民支持,使在 Guix 中进行 AMD GPU 计算栈的功能化打包与部署更加顺畅。

0 人收藏 0 人点赞
#hip

ROCm 10.1:突破数据搬运瓶颈

Reddit r/LocalLLaMA ↗ · 2026-10-08 缓存

AMD 发布 ROCm 10.1,重点突破数据搬运瓶颈,通过 AMD Infinity Storage (hipFile)、HIP 运行时的 NUMA 感知内存分配以及 ROCm CLI 和 AMD Skills 等开发者工具提升 GPU 数据传输与训练推理效率。

0 人收藏 0 人点赞
#hip

AMDKernelVault:面向AMD GPU内核优化的大规模数据集与智能代理训练

arXiv cs.CL ↗ · 2026-09-14 缓存

本文介绍AMDKernelVault,这是一个用于AMD GPU内核优化的开放数据集和训练框架,包含大规模HIP和Triton内核,以及用于生成和验证内核的代理驱动流水线。

0 人收藏 0 人点赞
#hip

适用于 AMD 的 Windows CUDA

Hacker News Top ↗ · 2026-09-13 缓存

此工具提供可复现的 Windows 环境,用于在 AMD GPU 上运行针对 CUDA 的应用程序,使用 ZLUDA 和 AMD HIP/ROCm,并通过 RX 9060 XT 和 LibTorch 工作负载进行了验证。

0 人收藏 0 人点赞
#hip

CUDA/HIP:Flash Attention 调优(gfx1201)由 pwilkin · 拉取请求 #28102 · ggml-org/llama.cpp

Reddit r/LocalLLaMA ↗ · 2026-09-11 缓存

此拉取请求为 llama.cpp 项目中的 CUDA/HIP 引入了 Flash Attention 调优优化,针对 gfx1201 硬件以提升推理性能。

0 人收藏 0 人点赞
#hip

GLM 和我创建了一个针对 AMD GFX906(Mi50、Mi60、Radeon VII、GCN HIP)优化的 llama.cpp 分支 - 机器学习、大语言模型和 AI

Reddit r/LocalLLaMA ↗ · 2026-08-22

已创建一个 llama.cpp 的分支,并针对 AMD GFX906 GPU 进行了优化,提升了 Mi50、Mi60、Radeon VII 和 GCN HIP 上的性能,适用于机器学习和大语言模型应用。

0 人收藏 0 人点赞
#hip

@AnnmariaKAntony: LLMs 擅长 CUDA,因为互联网上充满了相关内容。但一个能提供高度优化 CUDA 的模型可能仍然……

X AI KOLs Timeline ↗ · 2026-07-02 缓存

一个结合 SFT 和 GRPO RL 后训练的多智能体合成数据流水线,为 14B 开源模型在 AMD MI350X GPU 上提升了 HIP 的编译和正确性。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈