标签
AMD 正投入大量工程和算力资源向 vLLM 倾斜,以绕开 NVIDIA 的 CUDA 护城河,推动推理软件标准化、摆脱特定硬件绑定,从而让整个生态受益但双方回报不对称。
AMD中国开发者平台推出15个免费大模型API调用,包括DeepSeek V4.1 Flash、GLM-5.3 Flash、Qwen3.8、MiMo等,无需绑卡,每天零点重置额度,可通过手机号或GitHub登录获取Key直接调用。
据报导,AMD 计划在 11 月再次上调 Radeon GPU 价格,这可能进一步影响显卡市场的定价动态。
AMD 发布了 ROCm HRX Loom SDK v0.1,这是一个专门针对 AMD CPU、GPU 和 NPU 的编译器与中间表示(IR)技术栈,支持 AMDGPU HSA、SPIR-V/Vulkan,以及正在开发中的 x86/WebAssembly 后端。
AMD 发布了针对其 Ryzen AI NPU 优化的 Stable Diffusion 3.5 Medium,可在 Hugging Face 上获取,实现高效的本地文本到图像生成。
Meta表示Nvidia、AMD和Broadcom对其普通股表达了合计最多50亿美元的非约束性购买意向,同时Meta将整体融资目标从950亿美元上调至9750亿美元,创下其史上最大规模融资。
一场 llama.cpp 拉取请求讨论,内容涉及提升 AMD R9700 GPU 上的 strata 解码性能,并提及 ggml/llama.cpp 这一 C/C++ 大语言模型推理项目。
Intel 与 AMD 联合宣布,双方将通过 oneDNN 就 PyTorch 的 x86 CPU 软件优化展开合作,AMD 将其 ZenDNN 的改进贡献到上游项目,并以指导成员身份加入 UXL 基金会。
有传闻称,AMD 即将推出的 Zen 6 桌面处理器可能会用专用 NPU 取代集成 GPU,这引发了人们对其在不采用 NPU-GPU 混合工作负载的情况下运行 AI 模型的实际用途的疑问。
AnythingLLM Desktop 正在用 AMD 的开源 Lemonade 服务器(运行 llama.cpp)替换其内置的 Ollama 引擎,旨在实现更快的更新、直接从 Hugging Face 下载 GGUF 文件,以及更广泛的硬件支持,包括 Vulkan、CUDA、Metal 和 NPU 加速。
有人提议利用 AI 将 NVIDIA 的 CUDA 逆向工程为开源实现,灵感来自 AI 辅助游戏模组,并指出 AMD Radeon 用户对 CUDA 专有锁定的持续不满。
开发者帮助优化了 llama.cpp 的分支 ROCmFPX 在 AMD Strix Halo(Ryzen AI Max+ 395)上的运行速度,通过合并 16 个 PR,大幅提升了预填充和解码速度,并提高了量化精度。
zzpanic 分享了他的 vllm-radiance 构建版本的最终修订版,专为单张 AMD R9700 GPU 运行 qwen3.8-27b 进行了优化,新增启动缓存和 KV 卸载功能(显存-系统内存-磁盘),并通过内存精简支持在单张显卡上运行多智能体工作负载。他指出,随着用户迁移到 StillDeadcode 更新的 radiance 推理引擎,该项目正逐步收尾。
据报道,AMD 正在上调提供给板卡合作伙伴的 GDDR6 显存价格,这可能会影响下游显卡产品的定价与供货情况。
MTP 投机解码的草稿 LM head 原本每步都要读取 1.27 GB 的 BF16 权重,现改为 Q4_0 量化草稿头(验证与正常解码仍用 BF16),实现约 10.6% 的 token/s 提升,且 greedy 输出 md5 完全一致。相关改动已在 ROCmFPX 的 PR #49 中提交。
一位用户分享了为 10 人初创公司搭建的 4x AMD Radeon R9700 AI Pro 工作站(总显存 128GB,Threadripper 9970x),用于部署 Qwen 3.8 Next Flash/27B 和 DSV4 Flash 模型,在 16 个并发会话下报告了强劲的聚合预填充/解码吞吐量。
ROCmFPX 的融合 HC norm 内核通过在寄存器中直接写出 Q8_1 副本,省去了 MMQ 重复量化 335MB 数据的开销,在 2.3%–3.6% 的 pp8192 性能提升下保持位级一致。
TensorFold 1.0.5 发布首个 AMD GPU 运行时(支持 gfx1150/gfx1151/gfx1201),在 Strix Halo 上跑 Qwen3.6-35B-A3B 解码速度比 llama.cpp 快 36-54%,预填充快 40%,目标是让单一模型跨 NVIDIA、Mac 和 AMD 运行且远快于 llama.cpp。
受DDR5供应短缺推动,内存价格飙升,Intel和AMD正在恢复对已有十年历史的DDR4内存的支持,预计将推出新的LGA 1700和AM4主板,而DDR4价格仍远低于DDR5。
AMD 消费级芯片负责人 Jack Huynh 确认,FSR 4 将于 2026 年底前扩展至 APU、游戏笔记本和掌机设备,据报新芯片和轻量版 FSR 4 模型均在开发中,但目前尚不清楚 Steam Deck 等现有掌机是否会获得支持。