云GPU提供商将成为代理基础设施吗?

Reddit r/AI_Agents 新闻

摘要

作者推测云GPU提供商是否将成为AI代理的底层基础设施,将其与电信行业的演变进行类比,并质疑市场整合。

我一直在思考这个问题。云服务提供商最终会成为代理的底层基础设施,就像电信运营商那样吗?我一直觉得本地LLM最终会变成一种小众爱好,就像业余无线电。想想电信行业的发展历程。在90年代,运营商本身就是产品。你精心挑选你的运营商,了解他们的定价和覆盖范围。后来,随着手机性能提升并支持更多应用,运营商的存在感减弱了,他们失去了定价权,最终被互联网巨头取代。看看现在的情况。模型提供商无疑占据主导地位,他们既拥有模型又拥有平台,就像鼎盛时期的AT&T。云服务提供商也在转型,开发自己的模型并部署在自己的平台上。还有一些GPU原生云,它们从GPU计算起步,逐步扩展到代理部署、模型目录和运行时运营。它们不开发模型,只提供GPU和部署服务。也许在数据中心泡沫破裂后,这些公司会破产、合并、重组;也许不会,它们最终会像Android上碎片化的应用商店一样。真正的问题是:代理云平台最终会像电信行业一样集中在两三个赢家手中,还是像早期的应用商店那样保持碎片化?模型实验室会放弃平台主导权的争夺,还是会继续努力?我很想听听你的想法。
查看原文

相似文章

使用云托管GPU运行AI

Reddit r/openclaw

关于使用云托管GPU运行AI模型的文章,涵盖部署选项和注意事项。

AI云基础设施市场是否已失控?

Reddit r/AI_Agents

本文探讨了AI云基础设施领域高达7250亿美元的资本支出大战,质疑市场是否正变得难以管理,并指出归纳分析将成为下一个主要战场。

下一代模型需要什么?

Reddit r/AI_Agents

关于前沿人工智能使用方式下一次演进的讨论,质疑基于云的智能体工作流和大规模分布式计算是否会取代本地部署,并引用了Tibo的推文和OpenAI最近的数学成果。