@FinanceYF5: AMD 正试图通过投入资源,绕开 NVIDIA 的 CUDA 护城河。 其正向 vLLM 投入大量工程和算力资源。这会让整个生态受益,包括 NVIDIA,但双方获得的回报并不对称。 其软件栈仍处于早期阶段,因此更希望推理摆脱特定硬件绑定。…
摘要
AMD 正投入大量工程和算力资源向 vLLM 倾斜,以绕开 NVIDIA 的 CUDA 护城河,推动推理软件标准化、摆脱特定硬件绑定,从而让整个生态受益但双方回报不对称。
查看缓存全文
缓存时间: 2026/11/02 06:02
AMD 正试图通过投入资源,绕开 NVIDIA 的 CUDA 护城河。
其正向 vLLM 投入大量工程和算力资源。这会让整个生态受益,包括 NVIDIA,但双方获得的回报并不对称。
其软件栈仍处于早期阶段,因此更希望推理摆脱特定硬件绑定。它不需要拥有软件层,只要软件足够标准化、商品化,AMD https://t.co/tW9TITxvWm
相似文章
@PandaTalk8: NVIDIA 最硬的护城河,从来不是 GPU。 而是 CUDA。 但这个护城河,可能正在被 AI Agent 一点点凿穿。 最近 Wafer 把 GLM-5.2 跑在 AMD MI355X 上,单节点做到 2626 tokens/s,成本…
Wafer successfully runs GLM-5.2 on AMD MI355X with competitive performance, challenging NVIDIA's CUDA moat as AI agents automate software optimization, potentially eroding NVIDIA's high premium.
@FinanceYF5: NVIDIA 正在亲手为自己的芯片创造市场。 在今年《State of AI》报告统计的数据中,NVIDIA 参与了 84 轮 AI 融资,约为 2024 年的两倍。 投资、收购、开放模型,以及为其他实验室的模型进行优化,都在不断强化它在…
NVIDIA 参与了 84 轮 AI 融资,约为 2024 年的两倍,通过投资、收购、开放模型以及为其他实验室模型进行优化,不断强化其在整个 AI 技术栈中的生态位,使其竞争者面对的是整个生态系统而非单一公司。
@Rick5767: 据我所知。已经有好几个人在脱离vllm和llama cpp。去从零开始写amd显卡专用的推理引擎。 他们的意思大概是,当他们看到通用引擎只占用了600g显存带宽的200g的时候,天啊,这是在干嘛。 AI编程的普及,大把从前不能做的事情将疯…
作者指出已有开发者脱离vLLM和llama.cpp,从零编写针对AMD显卡的专用推理引擎,原因是通用引擎仅利用了约200GB/600GB的显存带宽。随着AI辅助编程的普及,类似项目将大量涌现,软件开发进入更平等的时代。
@rohanpaul_ai: Nvidia和AMD正日益通过其资产负债表进行竞争。提供信贷担保帮助客户…
据The Information报道,Nvidia和AMD正通过提供信贷担保来帮助客户获得数据中心融资,从而展开竞争。
既然大语言模型编码这么厉害……
讨论为何大语言模型未能帮助ROCm和英特尔的软件生态系统追上CUDA,并指出NVIDIA的高定价和真正市场竞争的必要性。