AI智能体在企业环境中最常见的故障模式有哪些？

我见过的最棘手的问题并非那些戏剧性的一次性漏洞，而是一堆看似无害的小决策累积而成。我们的智能体将对话历史中的任何内容都视为可信，从本不应用于驱动决策的源中提取上下文，并按顺序调用工具——单个调用看似正常，但累积起来却构成了设计文档中无人会批准的操作。单步操作毫无异常；但从整个会话来看，简直是一个慢动作的尴尬场面。一个反复出现的模式是过度依赖长期记忆。一旦智能体能够记住并复用旧上下文，任何先前的信息都可能影响后续操作。如果你不限制它在一个会话中能收集的特权信息量，或在敏感操作周围重置状态，那么一个完全正常的用户或他们粘贴的第三方内容，就可能在从未发送明显恶意提示的情况下，逐渐将智能体推入危险境地。另一个反复出现的问题是无状态工具门控：如果策略引擎只关注‘当前这次调用’，而不是‘本次会话中的最后N次调用’，那么智能体就能逐条重建敏感数据或执行高风险工作流，而每次单独的调用仍看似正常。再加上权限设置过于宽泛，你基本就等于把生产环境的钥匙交给了某个干劲十足的实习生。如果你已将智能体部署到生产环境，你遇到的最具启发性的‘千刀万剐’式失败是什么？哪些架构、策略或工具的变化最能防止它再次发生？如果你指出任何其他让你仍然困扰的具体文章，那篇文章也可以用不同的开头结构和语气重写。