我们正遭遇AI账单冲击。你们是如何发现并阻止这些问题的?

Reddit r/AI_Agents 新闻

摘要

关于因错误循环、未授权密钥使用和缺乏监控导致意外高额AI API成本的讨论;寻求检测和预防方面的建议。

我们现在正面临一些相当棘手的AI成本问题,想了解其他团队是如何处理这些情况的。我们这边发生了几件事:首先,有一个糟糕的循环不断调用模型。没什么特别的,就是工程监管不力。我们平时的AI月账单大约1万美元,但那一次问题让单日费用超过5000美元,我们才注意到。其次,有人在AI编程工具/CLI工具中使用了生产环境的Gemini密钥。没有真正的限制,没有单独的开发密钥,也没有明确的边界。从供应商那边看,这像是有效使用,但在内部这肯定不是我们预期该密钥被使用的地方。第三,我们发现有些代码直接使用了API密钥,而这些密钥并未纳入我们正常的密钥管理系统。所以当成本上升时,我们能看到钱在烧,但很难快速查明来源、归属方,或者关停是否安全。所以,是的,我们有点被AI账单冲击到了。对于在内部使用AI API的团队,你们遇到过类似问题吗?我主要想了解实际操作层面:你们最初是如何发现异常的?是账单警报?财务人员?仪表盘?日志?流量峰值?还是有人手动查看了使用页面?一旦发现,你们是如何阻止的?是停用密钥、关闭任务、回滚代码、添加配额、轮换凭证、阻止某些工具使用生产密钥,还是建立了某种内部AI网关?另外,通常需要多久才能找到问题根源?很想听听你们实际有效的方法。
查看原文

相似文章

有没有人也觉得自己的 AI 功能变贵了?

Reddit r/ArtificialInteligence

一位开发者讲述了他们的 AI 功能在真实用户使用时意外变得昂贵的过程:长查询、重复的检索块、无限制的对话历史。文章还建议了分块、去重等技巧来控制 token 消耗。

求助 - 我每天在AI上花费100美元

Reddit r/openclaw

一位用户分享了通过OpenRouter每天在AI令牌上花费超过100美元的经历,主要用于编程任务,并寻求降低成本的建议。

AI Agent智能工具 - 事件调试与成本突增检测

Reddit r/AI_Agents

构建一个用于AI Agent事件调试和成本突增检测的工具,无需额外检测工具,涵盖提示注入、推理循环、数据泄露等问题。询问生产环境中的客户,这是否是一个值得付费的痛点。