自托管与人工智能的未来

Reddit r/ArtificialInteligence 新闻
self-hosting ai-industry llms costs openai anthropic perplexity

摘要

本文探讨了AI服务的财务负担，引用了OpenAI和Anthropic等公司的巨额亏损，并指出尽管当前存在经济和技术挑战，自托管可能是未来的解决方案。

LLMs（大型语言模型）成本高昂。乍看之下，每月支付20美元对于所提供的价值来说似乎相对便宜，但这一费用累计起来每年要240美元。需要更高级或更集成工具的重度用户可能每月支付高达200美元，累计每年2400美元。然而，大多数提供商提供免费使用计划，尽管这些计划有限制，但仍保留了工具所需的一些平等性。但我们的这些工具使用仍然严重依赖于行业的补贴，OpenAI在2024年亏损50亿美元，Anthropic亏损53亿美元，Perplexity在AWS、Anthropic和OpenAI上的支出占其收入的164%。这是一场绝望的生存竞赛。但可能有一个更好的方法，自托管可能是AI的未来，只是目前还不是。阅读更多关于我最新的substack文章：https://pedrorodriguesribeirophd.substack.com/p/self-hosting-and-the-future-of-ai?r=9040kf&utm_campaign=post&utm_medium=web
查看原文

相似文章

AI的可负担性危机

Hacker News Top

文章分析了AI平台不可持续的经济学，揭示了巨额补贴，像OpenAI和Anthropic这样的公司通过远低于成本的收费损失了数十亿美元，导致了可负担性危机。

如何应对AI成本上升？

Reddit r/AI_Agents

一篇探讨AI开发与部署成本日益增长的文章，并提出了应对这些成本的潜在策略。

AI的未来是销售硬件用于开源/模型吗？

Reddit r/LocalLLaMA

一篇评论文章推测，AI的未来可能转向销售价格实惠的硬件来运行开源本地模型，并指出Meta、Google和Nvidia等公司支持开放权重，而OpenAI和Anthropic则反对。