高通39亿美元收购Modular交易与谷歌限制Meta使用Gemini算力,是否为同一根本问题?
摘要
本文分析高通以39亿美元收购Modular以打破CUDA锁定,以及谷歌限制Meta使用Gemini算力,这两者被视为同一基础设施瓶颈的两种表现,认为软件和容量限制正在制约AI的规模化发展。
本月发生了两件事,我认为实际上是同一故事在不同层面的呈现。高通以39亿美元收购Modular,正是为了打破CUDA锁定。Mojo和MAX让你只需编写一次推理代码,便可在Nvidia、AMD、Intel、Qualcomm芯片上运行,无需针对每种芯片重写。Lattner的观点是,在异构硬件世界中,碎片化的软件无法规模化。同一周,谷歌不得不限制Meta使用Gemini,因为他们没有足够的硬件来提供服务。我对这些现象的看法是,它们都是同一核心问题的不同层面:基础设施是瓶颈,它尚未跟上大家想要快速扩展AI的速度。CUDA锁定是硬件层面的软件问题,而高通豪赌解决这一问题将解锁应用。算力稀缺在容量层面也是同样的故事,因为连谷歌现在都在配额token。较少被讨论的是,这种模式是否会向上重复一个层面,即数据层面。我的意思是,接下来会是什么?即使有了与硬件无关的推理,你仍然需要将专有、碎片化、多模态的数据转化为模型可用的状态。来自不同软件和来源的多格式数据,如果继续如此碎片化,就会变成曾经硬件那样的瓶颈(但也许这个问题更容易解决?)好奇这里的人怎么想。
相似文章
高通欲扩张AI版图(多起收购进行中)
高通正通过多起收购积极扩张AI业务,包括收购Modular(Mojo编程语言和MAX推理框架的创建者)以及可能收购Tenstorrent,这表明其正大力挑战Nvidia的CUDA生态系统。
谷歌限制Meta使用其Gemini AI模型
谷歌因计算能力需求旺盛,限制了Meta对其Gemini AI模型的访问,影响了Meta的内部AI项目。此举反映了整个行业在获取足够计算能力以支持AI服务方面面临的更广泛挑战。
谷歌限制Meta使用Gemini,因AI需求紧张导致容量压力
由于高需求导致容量压力,谷歌已限制Meta对其Gemini AI模型的使用。
@clattner_llvm:我很高兴分享,高通正在收购Modular:这将加速我们统一加速计算的道路……
高通已同意收购Modular,这是一家专注于通过开放平台统一加速计算的人工智能基础设施公司。此次收购旨在推进高通以开发者为先的AI战略,并扩展其从边缘到云端的AI软件能力。
高通以近40亿美元收购热门芯片初创公司Modular
高通以近40亿美元收购芯片初创公司Modular,以加强其AI软件平台,并将业务从移动芯片扩展到数据中心和AI设备。