高通39亿美元收购Modular交易与谷歌限制Meta使用Gemini算力,是否为同一根本问题?

Reddit r/ArtificialInteligence 新闻

摘要

本文分析高通以39亿美元收购Modular以打破CUDA锁定,以及谷歌限制Meta使用Gemini算力,这两者被视为同一基础设施瓶颈的两种表现,认为软件和容量限制正在制约AI的规模化发展。

本月发生了两件事,我认为实际上是同一故事在不同层面的呈现。高通以39亿美元收购Modular,正是为了打破CUDA锁定。Mojo和MAX让你只需编写一次推理代码,便可在Nvidia、AMD、Intel、Qualcomm芯片上运行,无需针对每种芯片重写。Lattner的观点是,在异构硬件世界中,碎片化的软件无法规模化。同一周,谷歌不得不限制Meta使用Gemini,因为他们没有足够的硬件来提供服务。我对这些现象的看法是,它们都是同一核心问题的不同层面:基础设施是瓶颈,它尚未跟上大家想要快速扩展AI的速度。CUDA锁定是硬件层面的软件问题,而高通豪赌解决这一问题将解锁应用。算力稀缺在容量层面也是同样的故事,因为连谷歌现在都在配额token。较少被讨论的是,这种模式是否会向上重复一个层面,即数据层面。我的意思是,接下来会是什么?即使有了与硬件无关的推理,你仍然需要将专有、碎片化、多模态的数据转化为模型可用的状态。来自不同软件和来源的多格式数据,如果继续如此碎片化,就会变成曾经硬件那样的瓶颈(但也许这个问题更容易解决?)好奇这里的人怎么想。
查看原文

相似文章

高通欲扩张AI版图(多起收购进行中)

Reddit r/singularity

高通正通过多起收购积极扩张AI业务,包括收购Modular(Mojo编程语言和MAX推理框架的创建者)以及可能收购Tenstorrent,这表明其正大力挑战Nvidia的CUDA生态系统。

谷歌限制Meta使用其Gemini AI模型

Hacker News Top

谷歌因计算能力需求旺盛,限制了Meta对其Gemini AI模型的访问,影响了Meta的内部AI项目。此举反映了整个行业在获取足够计算能力以支持AI服务方面面临的更广泛挑战。