有人担心 AI agent 的可靠性和花费吗？
摘要
一位在 SF 的联合创始人发推质疑：为什么各家公司在 AI agent 开支不断上涨的情况下似乎并不在意，且在修改 agent harness 等环节时缺乏完善的 eval 套件和训练环境，并询问其他人是否也观察到类似现象。
我和我的联合创始人（base 在 SF）和几家公司交流过，尽管各家的 AI 开支都在上涨，但似乎没有一家对此特别担心，我们到现在也不太明白这是为什么？我们还发现，人们在修改 harness 等组件时，往往并没有足够的 eval 套件和训练环境。还有其他人观察到类似的现象吗？
相似文章
想听听大家的真实看法：你们公司已经全面投入使用 AI 智能体了吗？
一场社区讨论围绕企业是否正在全面押注 AI 智能体展开，起因是一则轶事：某能源公司用基于 Claude 的智能体取代程序员，并在 token 上投入巨资。该帖子质疑，将 token 成本和系统知识流失考虑在内后，这种做法能否带来长期成本节约。
AI 代理提交的 PR 数量创下新高，但有人关心过这是否真的推动了业务发展吗？
一篇评论文章，质疑 AI 代理生成的拉取请求和 token 消耗指标激增是否真的能转化为有意义的业务价值，并警告不要优化虚荣指标而忽视实际影响。
最近似乎各家公司都推出了一大堆托管式智能体平台。这是真有需求，还是先有解决方案再找问题？你会如何决定是购买现成平台，还是自行构建？
一篇讨论帖，质疑 OpenAI、Anthropic、AWS、Vercel 和 CrewAI 推出的托管式 AI 智能体平台激增，究竟反映了真实需求，还是先有解决方案再找问题，并探讨团队应如何在购买现成平台与自行构建之间做出选择。
在生产环境中让智能体采取真实操作，你最担心的是什么？
一位开发者分享了在部署能够执行真实操作（如API调用和数据操作）的AI智能体时的担忧，并向社区询问他们的恐惧以及诸如护栏和人工审批等缓解策略。
每个人都关注他们的智能体是否完成任务，但几乎没人问它是否在随着时间的推移变得更好
文章指出了AI智能体开发中一个常见的忽视点：虽然大多数团队会监控任务完成情况，但很少有系统能够捕获失败模式并将其反馈到未来的运行中，从而实现学习和持续改进。