@FinanceYF5: AMD 正试图通过投入资源,绕开 NVIDIA 的 CUDA 护城河。 其正向 vLLM 投入大量工程和算力资源。这会让整个生态受益,包括 NVIDIA,但双方获得的回报并不对称。 其软件栈仍处于早期阶段,因此更希望推理摆脱特定硬件绑定。…

X AI KOLs Following 新闻

摘要

AMD 正投入大量工程和算力资源向 vLLM 倾斜,以绕开 NVIDIA 的 CUDA 护城河,推动推理软件标准化、摆脱特定硬件绑定,从而让整个生态受益但双方回报不对称。

AMD 正试图通过投入资源,绕开 NVIDIA 的 CUDA 护城河。 其正向 vLLM 投入大量工程和算力资源。这会让整个生态受益,包括 NVIDIA,但双方获得的回报并不对称。 其软件栈仍处于早期阶段,因此更希望推理摆脱特定硬件绑定。它不需要拥有软件层,只要软件足够标准化、商品化,AMD https://t.co/tW9TITxvWm
查看原文
查看缓存全文

缓存时间: 2026/11/02 06:02

AMD 正试图通过投入资源,绕开 NVIDIA 的 CUDA 护城河。

其正向 vLLM 投入大量工程和算力资源。这会让整个生态受益,包括 NVIDIA,但双方获得的回报并不对称。

其软件栈仍处于早期阶段,因此更希望推理摆脱特定硬件绑定。它不需要拥有软件层,只要软件足够标准化、商品化,AMD https://t.co/tW9TITxvWm

相似文章

@FinanceYF5: NVIDIA 正在亲手为自己的芯片创造市场。 在今年《State of AI》报告统计的数据中,NVIDIA 参与了 84 轮 AI 融资,约为 2024 年的两倍。 投资、收购、开放模型,以及为其他实验室的模型进行优化,都在不断强化它在…

X AI KOLs Following

NVIDIA 参与了 84 轮 AI 融资,约为 2024 年的两倍,通过投资、收购、开放模型以及为其他实验室模型进行优化,不断强化其在整个 AI 技术栈中的生态位,使其竞争者面对的是整个生态系统而非单一公司。

@Rick5767: 据我所知。已经有好几个人在脱离vllm和llama cpp。去从零开始写amd显卡专用的推理引擎。 他们的意思大概是,当他们看到通用引擎只占用了600g显存带宽的200g的时候,天啊,这是在干嘛。 AI编程的普及,大把从前不能做的事情将疯…

X AI KOLs Timeline

作者指出已有开发者脱离vLLM和llama.cpp,从零编写针对AMD显卡的专用推理引擎,原因是通用引擎仅利用了约200GB/600GB的显存带宽。随着AI辅助编程的普及,类似项目将大量涌现,软件开发进入更平等的时代。