标签
一项分析表明,像Anthropic和OpenAI这样的AI公司每获得100美元收入,可能实际花费超过1000美元,凸显了LLM市场不可持续的经济状况。
Lowfat是一个轻量级的CLI过滤器,通过在被代理工具接收前剔除不必要的输出来降低AI令牌成本,声称可节省高达91.8%的令牌。它提供Shell集成、插件支持,以及针对Claude Code和OpenCode等工具的透明重写功能。
AI代理导致Token消耗失控,使超支成为一类生产事故。文章列举了诸如一位工程师130万美元的OpenAI账单以及Uber在四个月内烧掉全年AI预算等案例,并向社区询问如何为代理费用设置上限。
每百万 token 的成本对比:在 Apple Silicon 硬件上本地运行 LLM 与通过 OpenRouter 使用云推理的成本比较,发现本地推理通常贵 3 倍且更慢。
文章指出LLM智能价格在18个月内下跌了100倍,并分析认为成本的降低将推动需求向外扩张,反驳了单纯的悲观看法。