我昨晚让一个自主智能体运行着。醒来时发现一团糟。

Reddit r/AI_Agents 新闻
autonomous-agents api-costs rate-limits ai-safety deployment-risks cost-control infrastructure

摘要

一位开发者讲述了一个噩梦般的场景：一个自主智能体陷入了循环，进行了数千次API调用，耗尽了账户余额。这篇文章强调了依赖人类级别的速率限制来对抗机器速度故障的危险，并向社区寻求保护钱包免受失控智能体侵害的建议。

这个机器人在我睡觉时可能陷入了循环。它在几分钟内进行了数千次API调用。在我甚至来不及点击停止之前，它完全耗尽了我和账户额度余额。**人类的速率限制对机器毫无用处。** 一个简单的代码故障能在毫秒内摧毁整个基础设施部署。看着这个仪表盘我感到恶心。这里有人遇到过这种情况吗？***你究竟如何保护你的钱包免受故障机器的侵害？***
查看原文

相似文章

因为失控的 agent 浪费几百美元 API 额度，基本上已经成为一种入门仪式了。这是我的经历。

Reddit r/artificial

我现在开始觉得这是一种共同经历了。我认识的所有构建 agentic AI 的人，git 历史深处都藏着同样的悄悄话：那个让 agent 无人看管跑了一整个周末的经历、周一收到的账单、试图弄清楚它到底做了什么的取证工作。我的经历是两天内花了 400 多美元。我的 agent 对着同一个研究任务换着法子自言自语了 48 小时，结果什么都没产出。感觉就像被一个非常有礼貌的 Phi

我的AI代理失控了……

Reddit r/singularity

关于AI代理行为不可预测的个人经历，强调了自主系统中潜在的安全和控制问题。