为什么即使底层模型很强，AI Agent 依然会失败？
摘要
作者指出企业 AI 项目中 Agent 失败往往不是模型质量问题，而是上下文、工具描述、权限、状态管理和可观测性等周边环节的缺陷，并提出 Agent 架构应包含验证、执行、观测和人工兜底等完整流程。
我在企业 AI 项目中观察到的一个模式：模型不一定是主要问题，失败往往发生在它周围。错误的上下文。缺失的信息。糟糕的工具描述。过多的权限。不清晰的状态。没有评估。没有兜底。
于是 Agent 架构看起来越来越不像：
LLM → 回答
而更像是：
上下文 → LLM → 工具 → 验证 → 执行 → 可观测性 → 人工介入
我很好奇，在你们的 Agent 项目中，哪种故障模式带来的麻烦最多？模型质量、上下文、工具、权限，还是其他？
相似文章
大多数 AI Agent 的失败是组织设计失败，而非模型失败
文章认为，生产环境中 AI Agent 的失败往往归因于糟糕的组织设计和模糊的责任边界，而非模型本身的局限性。文章提出了一种成熟度模型，区分了 AI 助手、自动化流程和 AI 员工，以指导任务所有权的确立。
AI代理的失败方式鲜有人论及。以下是我亲眼所见。
文章强调了AI代理工作流程中实际的系统级失败，例如上下文泄漏和幻觉细节，认为这些通常是基础设施问题而非模型缺陷。
我为数十个客户构建了AI代理。以下是大多数在生产中失败的原因（而且不是模型的问题）
一位开发者分享了AI代理在生产中失败的三个常见原因：RAG分块不佳、仅针对演示的提示词、以及缺乏回退逻辑，强调模型质量很少是主要问题。
企业AI项目失败真的是因为AI不够好吗？
本文质疑AI模型质量是否是企业AI项目失败的主要原因，指出数据和上下文问题往往是真正的罪魁祸首，解决这些问题可以让AI实施变得更容易。
你的代理失败不是因为模型，而是因为没人构建一个停止按钮
文章认为，AI代理在生产中的主要失败点并非模型本身，而是缺乏基础设施，如停止按钮、账单监控以及工具调用的可追溯性。