amd-gpu

标签

Cards List
#amd-gpu

已修复 7900 xtx + 无头 Linux 崩溃(低内存 OOM)amdgpu.runpm=0

Reddit r/LocalLLaMA ↗ · 2026-08-25

用户通过禁用运行时电源管理,解决了在无头 Linux 系统上使用 AMD GPU 运行大型 AI 模型时崩溃的问题,防止模型权重被转储到有限内存中导致 OOM 错误。

0 人收藏 0 人点赞
#amd-gpu

AsmEvo: 带功能等价验证的AMD GPU内核智能汇编级优化

arXiv cs.CL ↗ · 2026-08-24 缓存

AsmEvo 是一个用于AMD GPU内核的智能汇编级优化器,通过提出低级编辑并验证与原始二进制文件的功能等价性来提高性能,在MI308X GPU上实现了高达3.88倍的加速。

0 人收藏 0 人点赞
#amd-gpu

GLM 和我创建了一个针对 AMD GFX906(Mi50、Mi60、Radeon VII、GCN HIP)优化的 llama.cpp 分支 - 机器学习、大语言模型和 AI

Reddit r/LocalLLaMA ↗ · 2026-08-22

已创建一个 llama.cpp 的分支,并针对 AMD GFX906 GPU 进行了优化,提升了 Mi50、Mi60、Radeon VII 和 GCN HIP 上的性能,适用于机器学习和大语言模型应用。

0 人收藏 0 人点赞
#amd-gpu

价值100美元的GPU以7.39 t/s运行Qwen 3.8 27b模型

Reddit r/LocalLLaMA ↗ · 2026-08-17

一位用户演示在两张RX 580 GPU上运行量化为Q3_K_M的Qwen 27b AI模型,使用价值低于100美元的旧DDR3硬件,达到7.39 tokens/秒的性能。

0 人收藏 0 人点赞
#amd-gpu

Linux补丁引入"KNOD",用于将内核网络卸载直接交给AMD GPU

Reddit r/LocalLLaMA ↗ · 2026-07-20 缓存

Linux内核补丁引入了KNOD,这是一种用于将内核网络数据包卸载直接交给AMD GPU的机制,能够在无需用户空间依赖(如ROCm)的情况下加速数据包处理。该代码管理GPU队列,对每个数据包程序进行JIT编译,并完全从内核调度工作。

0 人收藏 0 人点赞
#amd-gpu

如果GPU能跑推理,那也应该能微调。[P]

Reddit r/MachineLearning ↗ · 2026-07-04 缓存

USAF(超稀疏自适应微调)是一种新方法,允许在消费级GPU(包括AMD硬件)上微调MoE模型,仅需12GB VRAM。与无法做到的LoRA/QLoRA不同,USAF只训练最重要的稀疏权重和路由器。

0 人收藏 0 人点赞
#amd-gpu

Gemma 4 31B Q6 在双 9060 XT 上运行

Reddit r/LocalLLaMA ↗ · 2026-06-22

讨论了在双 9060 XT GPU 配置上运行 Gemma 4 31B 模型的 Q6 量化版本,很可能是用于本地推理。

0 人收藏 0 人点赞
#amd-gpu

7900XTX 24GB 显存,终于能够在 131k 上下文下容纳 Q6K+MTP 和 Qwen 3.6 27B

Reddit r/LocalLLaMA ↗ · 2026-06-20

在 AMD 7900XTX 上优化显存使用的指南,通过编译带有 OpenBLAS 和 CUDA_FA_ALL_QUANTS 的 llama.cpp,并使用 q5_0/q4_0 的 KVCache 量化,以运行使用 Q6K 量化和 131k 上下文的 27B Qwen 模型。

0 人收藏 0 人点赞
#amd-gpu

llama.cpp b9158 刚刚发布了 RDNA3 Flash Attention 修复

Reddit r/LocalLLaMA ↗ · 2026-05-15

llama.cpp b9158 已发布,修复了 RDNA3 GPU 上的 Flash Attention 问题,提升了 AMD 用户的性能。

0 人收藏 0 人点赞
#amd-gpu

如果你使用Windows,请禁用内存压缩以消除瓶颈!

Reddit r/LocalLLaMA ↗ · 2026-05-14

一位用户分享了通过命令'Disable-mmagent -mc'禁用内存压缩来解决Windows 11中AMD GPU运行AI模型时的性能瓶颈问题。

0 人收藏 0 人点赞
#amd-gpu

MI50s 上的 Qwen 3.6 27B @52.8 tps TG @1569 tps PP(无 MTP,无量化)

Reddit r/LocalLLaMA ↗ · 2026-05-13

在 AMD MI50 GPU 上使用自定义 vllm 分支运行 Qwen 3.6 27B 的基准测试结果,实现了 52.8 tokens/s TG 和 1569 tokens/s PP,无量化或 MTP,证明了在 2018 年硬件上用于代理任务的可行性。

0 人收藏 0 人点赞
#amd-gpu

如果你只是自己使用模型而不对外提供服务,vLLM 真的值得用吗?

Reddit r/LocalLLaMA ↗ · 2026-05-12

一名用户讨论了在 AMD 硬件上进行本地单用户推理时,使用 vLLM 与 llama.cpp 之间的权衡,质疑在非企业级环境中 vLLM 的性能优势是否足以弥补其带来的复杂性。

0 人收藏 0 人点赞
#amd-gpu

@pupposandro:在 Strix Halo 上比 llama.cpp 快 2.5 倍。我们刚刚为 AMD Ryzen AI MAX+ 395 iGPU(gfx1151,……)发布了 DFlash + PFlash

X AI KOLs Following ↗ · 2026-05-12

一套新工具集(DFlash + PFlash)在 AMD Ryzen AI MAX+ 395 iGPU 上实现了比 llama.cpp 快 2.5 倍的推理速度,展示了 Qwen3.6-27B 在 128 GiB 统一内存下的显著加速效果。

0 人收藏 0 人点赞
#amd-gpu

2026年中ROCm状态 [D]

Reddit r/MachineLearning ↗ · 2026-05-07

作者询问2026年中AMD的ROCm生态系统在AI训练领域的当前可行性,将其与NVIDIA的CUDA进行比较,并询问它是否已达到PyTorch的“开箱即用”阶段。

0 人收藏 0 人点赞
#amd-gpu

我的 7900XTX 搭配 qwen 3.6 实现自主运行 👀 哇 😍

Reddit r/LocalLLaMA ↗ · 2026-04-20

用户演示了在 AMD 7900 XTX 显卡上本地自主运行 Qwen 3.6 并创建 Android 应用——这一曾被视为科幻的场景如今已成为现实。

0 人收藏 0 人点赞
← Previous
← 返回首页

提交意见反馈