自托管与人工智能的未来

Reddit r/ArtificialInteligence 新闻
self-hosting ai-industry llms costs openai anthropic perplexity

摘要

本文探讨了AI服务的财务负担，引用了OpenAI和Anthropic等公司的巨额亏损，并指出尽管当前存在经济和技术挑战，自托管可能是未来的解决方案。

LLMs（大型语言模型）成本高昂。乍看之下，每月支付20美元对于所提供的价值来说似乎相对便宜，但这一费用累计起来每年要240美元。需要更高级或更集成工具的重度用户可能每月支付高达200美元，累计每年2400美元。然而，大多数提供商提供免费使用计划，尽管这些计划有限制，但仍保留了工具所需的一些平等性。但我们的这些工具使用仍然严重依赖于行业的补贴，OpenAI在2024年亏损50亿美元，Anthropic亏损53亿美元，Perplexity在AWS、Anthropic和OpenAI上的支出占其收入的164%。这是一场绝望的生存竞赛。但可能有一个更好的方法，自托管可能是AI的未来，只是目前还不是。阅读更多关于我最新的substack文章：https://pedrorodriguesribeirophd.substack.com/p/self-hosting-and-the-future-of-ai?r=9040kf&utm_campaign=post&utm_medium=web
查看原文

相似文章

企业本地AI解决方案

Reddit r/LocalLLaMA

这篇文章向社区提出问题，探讨构建面向企业的本地AI解决方案，重点关注所面临的挑战以及企业自行托管AI模型的原因。

自托管 AI 并不省钱，但我还是照样做

Reddit r/LocalLLaMA

一位 Reddit 用户分享了自己的博客文章，论证自托管 AI 模型与订阅 API 相比其实并不能省钱，但他同时解释说，出于隐私方面的考虑——比如不让个人数据经手外部 API——他仍然选择自托管。

AI的可负担性危机

Hacker News Top

文章分析了AI平台不可持续的经济学，揭示了巨额补贴，像OpenAI和Anthropic这样的公司通过远低于成本的收费损失了数十亿美元，导致了可负担性危机。

本地AI的未来

Reddit r/LocalLLaMA

本文讨论了从本地计算到云计算的历史过渡，并推测AI的未来，质疑其是否会主要基于云，或者是否存在本地托管AI系统的市场。