AI 代理入门指南

关于如何构建真正可用的 AI 代理，我有一份全面指南。

我在 Meta 做了 3 年软件工程师。我参与构建的系统处理过数十亿笔交易，服务过上千万用户，创造了数亿美元营收。但即便如此，最优秀的工程师如果能构建可靠的代理，而不是手动盯着自动化流程，效率也能轻松提升 10 倍。

写这篇文章的目标，是帮你更好地理解 AI 代理——无论你是新手、专家，还是介于两者之间。（毕竟我是个正在运营一家估值 300 万美元的 AI 代理公司的人）

什么是 AI 代理

代理是一种基于你设定的目标（而不是具体指令）来替你执行任务的系统。这个区别很重要，因为它决定了只是一个简单的触发器，还是对整个工作流的理解。例如：你运行一个脚本说“发送这封邮件”，它就只做这件事。但如果你告诉一个代理：“确保这位客户在 4 小时内收到回复”，它会自己判断需要做什么——检查是否已有人回复，如果没有则起草回复，如果问题复杂则升级处理，并确认客户确实收到了。

代理的运行循环如下：

• 观察当前状态（例如：读取邮件、查询数据库）
• 根据目标决定要采取什么行动
• 执行行动（发送消息、触发工作流）
• 观察结果
• 重复直到目标达成或遇到停止条件（由你设定）

这与传统自动化有一个关键区别：代理能处理异常。当发生意外情况时，代理会转交给人类，记录出错原因，并等待指示。额外的好处是，它还会从这次指示中学习，以便下次改进。

每个代理必需的三个组件

每一个生产级的代理系统都由相同的三部分组成。缺少任何一个，你的代理要么无法完成有用工作，要么制造的问题比解决的还多。

感知层（Perception）：这是代理感知世界的方式，通常是 API、数据库和文档存储的结合。

决策逻辑（Decision Logic）：这是代理决定下一步做什么的方式。生产级代理对常规情况使用结构化的决策树，只在模棱两可的情况下才调用模型。

行动接口（Action Interface）：这是代理影响世界的方式。每个行动都需要被记录、在可能的情况下可撤销，并且受权限控制。理想情况下应包含推理过程。

这三个组件形成一个循环——代理通过感知层观察，通过逻辑层决定，通过接口执行，然后观察行动结果。重复直到完成。

工具是代理执行行动的方式

工具是代理可以调用的函数。每个工具做一件事：发送邮件、查询数据库、创建日历事件等。

重点注意：模型不直接执行工具。它返回一个结构化的请求：“我想调用 send_email 工具，参数是这些。”你的编排层然后验证请求（代理有权限吗？参数有效吗？），执行函数，捕获结果，并反馈给代理。

代理并不知道自己是如何发送邮件的，但它知道该用什么工具、输入什么以及期望什么输出。好的工具设计在于边界清晰——一个工具只做一件事，有明确的成功和失败状态，并返回结构化数据供代理推理。如果一个工具有时工作有时无声失败，代理就无法从中学习。

上下文窗口与记忆

代理需要记忆，因为它们是在时间维度上运行的。通常与代理的对话可能持续数小时，工作流涉及十几个步骤。这意味着代理需要记住自己已经做了什么以及目标是什么。

你可能知道，上下文窗口是有限的，即使有 200K 个 token，你也无法将整个项目历史塞进每次请求中。这就是外部记忆发挥作用的地方。

外部记忆就是代理可以读写的外部文件或数据库。当代理完成一个任务时，它会将摘要写入日志文件，这样既能保持活动上下文窗口的短小，又能让代理访问可能需要的一切。

我见过最有效的模式是：使用上下文窗口处理当前任务（活跃工作），使用外部记忆处理历史（已完成的任务）。代理根据当前目标决定从记忆中加载什么。

对于生产系统，记忆还可以作为审计追踪。代理做出的每个决策都会连同上下文一起被记录。这意味着当出问题时，你可以回溯记忆，查看代理的推理在哪一步出错，然后修复你的代理。

规划 vs 执行

大多数代理失败是因为人们跳过了规划步骤，而这恰恰是最重要的一步。对于任何非 trivial 的任务，规划应该是你做的第一件事——因为这是代理将目标分解为步骤、识别依赖关系的地方。然后人类会审查这个计划，纠正任何误解（并批准执行）。

举个例子。

目标：“将客户数据从旧系统迁移到新系统。”

没有规划的结果：

• 代理在未理解模式差异的情况下就开始编写迁移脚本
• 遗漏了需要人工审查的数据边缘案例
• 在业务高峰期（客户活跃时）执行迁移

有规划的结果：

• 代理进行模式对比（旧 vs 新）
• 代理进行容量分析（需要多长时间，什么时候执行）
• 代理成功识别边缘案例（不符合新模式的记录）
• 代理验证方案（如何确认没有数据丢失）
• 代理有回滚计划

然后人类会审查这个计划，纠正代理出错的部分，并批准执行。记住：规划是关键。

处理失败与异常

尽管代理很强大，但它们也经常失败。但你可以通过建立正确的失败模式来降低代理的失败率。

三种最佳模式是：

带退避的重试：对于瞬时故障（网络超时、速率限制），代理应使用指数退避重试。

人在回路中：对于代理不确定的决策，它应停下来询问人类。

安全失败：代理应始终安全失败，这意味着永远不删除旧数据。

理解失败的关键是让失败变得可观察——问自己代理当时想做什么，以及哪里出错了。

护栏与权限

护栏是代理无法绕过的硬性限制。这可能是禁止的操作（永远不删除数据）或强制速率限制。

权限是基于角色的访问控制。例如，一个代理可以读取客户数据但不能修改；或者可以创建日历事件但不能删除。代理并不知道后一种约束。它只是尝试执行行动，编排层强制执行规则。所以如果代理试图做不允许的事情，行动会被阻止。

构建你的第一个代理

从一个定义明确、有清晰成功标准的问题开始。这与提示工程类似，你不能模糊不清。

构建第一个代理的步骤：

用具体术语定义目标 → 列出代理需要的所有信息 → 编写实际函数 + 构建代理将使用的工具 → 独立测试 → 编写决策逻辑 → 封装在编排层中 → 用真实数据测试 → 根据出错情况添加护栏 → 添加速率限制 → 添加验证

恭喜，你刚建成了第一个代理！附带说明：你的代理范围会很窄，这很好——你想先让一件事稳定可靠地工作，然后再扩展范围。

何时使用代理 vs 何时不用

就像 AI 不是所有问题的答案一样，代理也不是。它们适用于特定类型的工作，比如那些需要一定判断力但遵循可学习模式的重复性决策。

我们在 Varick 部署的最成功的代理都遵循同一个模式：它们处理 80% 的简单情况，而将真正复杂的 20% 路由给可以运用判断力的人类。目标是解放人类的专业知识，让他们专注于真正需要它的难题。

接下来做什么

既然你了解了什么是代理以及它们如何工作，你可以自己去构建一个了。

将这些信息应用于现实生活的下一步是理解组合：如何编排多个代理协同工作 / 如何构建代理层级等等。如果需求足够大，我会继续写《AI 代理 102》。

现在，就拿这些概念去动手构建吧。从你工作或生活中的一个重复性任务开始，将其分解为感知/决策/行动，构建它所需的工具，看看能否让一个代理可靠地处理它。一次真实实现的收获，胜过读十篇文章。

太长不看版：

• 代理根据目标采取行动。
• 每个代理需要三个组件：感知层（如何看待世界）、决策逻辑（如何选择行动）、行动接口（如何影响世界）。
• 利用工具，即代理调用来执行行动的函数。
• 总是先规划，因为复杂任务帮助代理分解目标并识别依赖关系。
• 建立护栏和权限——这些应该是不可绕过的。
• 先构建一个只做一件事且可靠工作的代理，再扩展范围。
• 为特定任务使用代理。

如果你是企业主，正考虑为自己的业务实施 AI，可以免费预约我的公司 Varick Agents 的 AI 审计，我们将探讨 AI 是否适合你，以及潜在的 AI 转型会是什么样子：立即在 varickagents.com 预约。

如果你想要更多关于如何为自己或企业充分利用 AI 的技巧，请订阅我们的免费每周通讯：varickagents.com/newsletter。