前向部署工程入门

读完本文，你应该能理解为什么 Anthropic、OpenAI、Google 和其他 AI 公司都在寻找 FDE，以及你如何抓住这个需求。

我本人做过这份工作，也招聘过一些全球顶尖人才来在 Varick 打造我们的 FDE 业务线，但我发现目前还没有一份真正权威的指南来介绍这个当下科技界最热门的岗位。本文就是那份指南。

为什么 AI 公司需要 FDE

要成为一名 FDE，第一步是深刻理解 AI 公司为何急需这类人才。

如果你相信智能正在变成商品，那么随之而来的就是：唯一的竞争优势在于你如何以及在哪里使用它。事实上，我甚至想说，单靠智能本身并不存在竞争优势。因此，决定如何以及在哪里使用智能就成了最重要的角色——而这就是前向部署工程师的职责。

企业会雇佣一家应用型 AI 公司（如 Varick），后者派遣 FDE 来帮助他们最大化地发挥技术价值。这样做能让企业获得一支已经完成过大规模 AI 转型的团队，使客户比竞争对手行动更快，从而带来巨大的效率提升。

FDE 是一名高技能的工程师，能够深入理解客户的问题，在从未接触过的代码库中编写代码，并向非技术决策者传达业务影响以促成交易。这是一个价值百万美元的招聘岗位。

岗位要求

成为一名 FDE 需要你驻场在客户现场。Palantir 的 CTO 说过，不身处环境之中，就无法为这个环境构建产品。我们在内部也看到了同样的情况。

FDE 这个术语实际上源自 Palantir，他们非常重视驻场。2010 年，他们与阿富汗的特种部队合作。特种部队白天执行任务，收集反馈，然后反馈给 FDE，后者在夜间部署代码。

身处环境对于部署军事软件和部署 AI 同样必要。要想看到真正的效率提升，企业需要围绕 AI 从头开始重新构建。而这只有通过与客户坐在一起，利用企业特有的数据和背景构建定制化代理才能实现。

关于这个角色

在我们看来，应用型 AI 公司的 FDE 工作主要分为三个部分：审计（Audit）、评估（Evals）和部署（Deployment）。我们来逐一拆解。

审计： 你驻场在客户那里，绘制公司内部不同团队的流程/工作流。例如：与营收运营团队两周，与采购团队一周，与财务团队整整一个月。

与每个团队坐在一起时，你需要了解几件事：他们的工作内容是什么，瓶颈在哪里，以及你可以在哪些地方创建代理来交付价值。

除了理解公司每个团队的工作流，审计阶段的一个重要部分是确定哪些应该自动化、哪些不应该。在某些情况下，代理可能制造的问题比解决的问题还多。

以下三条通用原则可以帮你判断。

如果一个工作流可以归结为规则，但输入是多样化的（一个输入是邮件，下一个可能是 PDF，再下一个是扫描图片），并且工作涉及调用工具，那么就用一个代理来完成。如果规则和输入都是可预测的，那么代码更快速、更便宜。如果决策需要模式识别和领域专业知识，就保持人工操作。

如果你的代理一个月只运行五次，客户就得不到好的投资回报率。要找那些体量大、耗时长、频率高的自动化任务。必须有足够的量才有意义。

在构建代理时，不要过度使用 AI。大多数自动化任务可以通过一系列工具调用和仅一次调用大语言模型作为编排层来完成。过多的 AI 会导致不必要的 token 成本（随着规模扩大而累积），并且通常输出质量更低。

审计阶段的最后一部分是原型构建。请参阅《Agent 101》学习如何构建一个代理，再参阅《Agent 102》将那个代理从演示版推进到生产环境。

评估： 如果客户在一个 AI 部署上投入数百万美元，他们需要知道它是否有效。为此，FDE 要构建详细的评估系统。

一个好的评估不仅检查代理给出的最终答案是否正确，还要验证 AI 的思考方式是否像人类一样。要做到这一点，需要做两件事：

追踪人类的步骤，并对 AI 在每个步骤上评分：人类不会一步解决问题，这是一个多步骤过程。画出这些步骤，看看 AI 是否在相同节点上也能达到。

从小处着手，用一些优秀示例展示预期结果，然后以此为标准衡量一切：如果你正在构建一个客户支持代理，与一个人类坐在一起，找出对用户查询的最佳答案。重复几次处理几个任务。这样你就知道了“优秀”是什么样的，并能以此标准要求代理。

评估向客户证明价值。虽然每个人都说自己公司需要 AI，但仍有不少人怀疑它是否真的有效。一个好的代理评估正是高管们用来信任代理能带来投资回报率的关键。

部署： 避免大规模数据迁移。相反，在现有数据层（SharePoint 或数据库）之上构建 API，并在上面放置一个模型作为编排器来查询。这节省时间和金钱，更重要的是，让你免于替换现有系统的噩梦。我们的客户花了数百万美元和多年代码迁移到最新的 ERP 系统。他们最不想做的就是再次替换它。

一旦上述所有步骤完成，创建一个执行环境来安全测试代理。这是直接在公司基础设施中的沙箱，让你可以在进入生产环境之前运行、测试和调试代理。

当进入生产环境时，要慢慢来。从小的工作流开始，让它正常工作，然后逐步叠加更多能力。例如，从一个能捕捉 bug、调查并写 tickets 总结它认为哪里出错的代理开始。如果那个成功了，才给它编写代码和发起 PR 的能力。

从最小的自主单元开始；只有在那之后才给它采取行动的能力。

这就是作为一名 FDE 从审计到部署的全过程。掌握这些步骤本身就是全部工作。

如何在 30 天内成为 FDE

通常有三种背景的人最容易成为 FDE：顾问、产品经理和软件工程师。即使你不属于其中任何一种，只要遵循本节末尾的 30 天路线图，你获得这个角色的机会也会成倍增加。在申请和面试的同时并行执行这些步骤。

顾问/产品经理

作为顾问或产品经理，你应该已经具备将数据转化为投资回报率的能力。这占了工作的一半。但这类背景的人最大的障碍是缺乏工程经验。

一个高质量的作品集可以弥补这一点。从以下副项目中选择两个，全力以赴：

• 一个生产就绪的 AI 代理，能够执行你以前在旧工作中手动完成的整个流程。它应该能够调用 API、自主记录思考过程，并具备故障应对机制。

• 一个基于特定数据集（针对你想进入的行业选择自定义数据集：法律文档、医疗记录、财务文件等）构建的 RAG 管道。

• 一个你自己构建的评估框架，能够针对不同的业务流程（采购、应付账款等）在多个维度（正确性、格式、成本、延迟）上对代理输出进行评分。

• 一个 MCP（模型上下文协议），将大语言模型连接到目前不支持 AI 集成的遗留软件。

不要用 AI 外包你的理解。如果你一步一步来，这些概念应该是相当容易理解的。这为什么叫 30 天而不是 30 分钟，是有原因的。

软件工程师

可以说 FDE 最重要的部分是沟通。你需要将 AI 能做什么和不能做什么，转化为非技术副总裁也能理解的表达。如果你做不到这一点，就无法成为 FDE。

软件工程师应该构建类似于顾问/产品经理部分提到的项目，但要解释你所构建的每个组件。技术栈、结果、你所做的迭代、业务成果。最重要的是，你需要有构建这些代理的初衷：你在解决什么痛点，这在真实的客户交互中会如何体现？

不分角色的 30 天计划

想要更具体，可以参考这个 30 天计划，它几乎能为你准备好一切：

检查点 1（第 7 天）：

• 什么是代理以及代理循环如何工作：阅读 Anthropic 的《构建有效代理》，然后编写一个脚本来运行循环：提示 → 模型 → 响应 → 下一步。
• 如何让代理调用工具：使用 Anthropic/OpenAI 的工具使用教程，添加两个工具调用（一个 API 调用和一个网络搜索）。
• 如何构建合适的护栏：在内容到达用户之前添加输入验证、最大步骤限制和输出过滤。
• 何时使用上下文窗口 vs 外部记忆：默认使用上下文，除非状态需要比单次运行更长时间的持久化。
• 什么是审计轨迹以及如何构建：记录每次提示、工具调用和响应及其时间戳。这有助于发现和标记代理错误。

检查点 2（第 14 天）：

• 如何强制结构化输出：始终返回 JSON。阅读 OpenAI 的开发人员页面。
• 如何将演示版推向生产环境以及通常会出现什么问题：阅读《Agent 102》。
• 如何进行检查点保存：每隔 n 步将代理状态保存到一个文件，以便它可以从最后一个检查点重新启动。

检查点 3（第 21 天）：

• 重试逻辑和指数退避如何工作：每个外部调用都需要重试。失败时，等待 1 秒、2 秒、4 秒、8 秒，上限为 16 秒。
• 如何优化部署代理时的成本：三件事：对廉价子任务使用更便宜的模型（Opus 只应用于推理），缓存常见提示，设置最大 token 上限。跟踪每次查询的成本。
• 如何为评估构建黄金数据集：从 20 个真实查询开始，自己标注完美的输出。Anthropic 的《解密 AI 代理的评估》涵盖了所有内容。
• 多代理管道和并行架构如何工作：当一个代理无法处理时拆分工作。一个规划，其他执行，一个综合。

检查点 4（最后一周）：

回顾以上所有内容，并大声清晰地沟通出来。尽可能将一切与业务指标联系起来。

TLDR

FDE 是目前科技界最抢手的岗位。每家公司都需要 AI，但没人知道如何部署它。

这份工作包含三个阶段（审计、评估、部署）。你的任务是理解每个阶段及其目的。

你的作品集以及你讲述它的能力是决定性因素。构建代理、RAG 管道、评估框架、MCP 等，并且最重要的是，能够自信地阐述你所构建的一切背后的业务用例。

沟通能力不足对 FDE 角色来说是致命的。如果你无法向非技术决策者解释 AI 能做什么和不能做什么，就不会有部署。

知道什么时候 AI 不是答案；这能建立与客户的信任，更重要的是，能保证生产环境中代理的投资回报率。

执行这些步骤，你的成功机会将成倍增加。

如果你希望跳到旧金山增长最快的应用型 AI 公司，Varick 正在招聘。我们在硅谷打造最精锐的 FDE 团队，由前 Citadel Securities 首席运营官领导。立即申请：https://www.varickagents.com/careers