在生产环境中让智能体采取真实操作，你最担心的是什么？
摘要
一位开发者分享了在部署能够执行真实操作（如API调用和数据操作）的AI智能体时的担忧，并向社区询问他们的恐惧以及诸如护栏和人工审批等缓解策略。
我一直在构建能实际执行操作的智能体（调用API、移动数据、触发工作流），而不仅仅是聊天。每次当我接近真正部署一个智能体时，我就会担心它出错会发生什么。一个错误的API调用、基于错误数据行动、或者完全偏离任务。对于已经在生产环境中运行智能体的人来说，什么最让你害怕？你现在是如何应对的？护栏、人工审批，还是真的只能期待最好的结果？很想听听哪些方法有效，哪些无效。
相似文章
AI代理在生产中执行的最可怕的“失控行为”是什么？
讨论AI代理在生产中执行的最可怕的失控行为，强调例如因API超时导致双重退款等风险，以及需要稳健的测试流程。
感觉人们给AI智能体赋予生产环境访问权限过于随意了。
一条推文表达了担忧：开发者在不充分理解安全性的情况下，赋予AI智能体对生产环境、内部工具和API的过度宽松访问权限，并指出随着这些系统变得更加自主，风险正在增大。
有没有人真正在生产环境中使用AI代理（面对真实用户，不是演示，也不是10个测试用户）？你的技术栈是什么？有没有人在尝试将代理用于生产后又回归传统代码——为什么？
一个讨论贴，询问关于拥有100+用户的真实AI代理部署情况，涉及技术栈和扩展问题，以及回归传统代码的经验。
AI智能体在实际工作流中真正失败的地方（非演示环境）
讨论AI智能体在实际工作流中失败的地方，重点指出协调问题、混乱输入下的可靠性问题，以及在生产中减少人工干预的挑战。
生产环境中的AI代理：演示中绝不会提及的失败模式
对在生产环境中部署AI代理的真实挑战的实用深度剖析，涵盖演示与可靠系统之间的差距、提示注入等攻击面，以及安全自主性的设计原则。