前部署工程 101
摘要
关于AI公司中前部署工程(FDE)的全面指南,阐述了为何Anthropic、OpenAI和Google等公司需要FDE,并详细介绍了与客户共同构建定制AI解决方案的审计、评估和部署工作流程。
查看缓存全文
缓存时间: 2026/05/21 16:09
前部署工程师入门指南
读完本文,你会理解为何Anthropic、OpenAI、Google及其他AI公司都在招募FDE,以及如何抓住这一需求机遇。
我本人曾担任FDE,为Varick组建过全球顶尖的FDE团队,并注意到目前还缺少一份关于这个科技圈最热门岗位的真正权威指南。本文就是这份指南。
AI公司为何需要FDE
要成为FDE,首先必须理解AI公司为何急需这类人才。
如果你相信智能正在商品化,那么唯一的竞争优势就是如何使用智能以及用在何处。事实上,我甚至认为仅凭智能本身毫无竞争优势。因此,决定企业如何使用智能以及用在何处,就成了最重要的角色——这正是前部署工程师的职责。
企业会聘请应用型AI公司(如Varick),由后者派驻FDE帮助客户充分发挥技术价值。这样做能让客户直接接触已成功实施大规模AI转型的团队,从而比竞争对手行动更快,并实现巨大的效率提升。
FDE是一位高技能工程师:能深刻理解客户问题,能在从未接触过的代码库中编写代码,并能向非技术决策者清晰阐述业务影响以促成交易。这是价值百万美元的招聘。
岗位要求
成为FDE需要驻扎在客户现场。Palantir的CTO曾指出,不身临其境就无法为该环境打造产品。我们在内部也验证了这一点。
FDE这一术语实际上源自Palantir,他们非常重视现场工作。2010年,Palantir与驻阿富汗的特种部队合作。特种部队白天执行任务,收集反馈,晚上传给FDE连夜发布代码。
置身于环境之中,对于部署军事软件和AI同样必要。企业要真正提升效率,必须围绕AI从零开始重构——而这只能通过坐在客户身边,用企业特定数据和上下文构建定制化Agent来实现。
关于岗位职责
我们认为,应用型AI公司的FDE工作包含三大核心部分:审计(Audit)、评估(Evals)和部署(Deployment)。我们逐一来拆解。
审计: 你驻扎在客户现场,梳理公司内部不同团队的流程/工作流。例如:两周与营收运营团队,一周与采购团队,整整一个月与财务团队。
每和一个团队协作,你需要了解以下几件事:他们的工作内容是什么,瓶颈在哪里,哪些地方可以创建Agent来交付价值。
在理解各团队工作流的同时,审计阶段的一个重要环节是判断哪些流程应该自动化、哪些不应该。有些情况下,Agent带来的问题可能比解决的问题还多。
以下三条通用原则可帮助你做出判断:
如果一个工作流可以归纳为规则,但输入各不相同(有时是邮件,有时是PDF,有时是扫描图片),并且工作涉及调用工具,那么引入Agent。如果规则和输入都可预测,用代码更快速、成本更低。如果决策需要模式识别和领域专业知识,保持人工处理。
如果Agent每月只运行五次,客户很难获得良好的投资回报。应寻找流程长、量大且重复性高的自动化场景。必须要有足够的规模才值得做。
构建Agent时不要过度使用AI。大多数自动化任务只需一系列工具调用,再加上一次LLM调用作为编排层即可。过多的AI会导致不必要的Token消耗(规模放大后成本激增),且输出质量往往更低。
审计阶段的最后一部分是原型构建。请参考《Agent 101》学习如何构建Agent,以及《Agent 102》将Agent从演示阶段推进到生产环境。
评估: 如果客户投入数百万美元部署AI系统,他们需要知道系统是否正常工作。为此,FDE需要构建详细的评估体系。
好的评估不仅检查Agent给出的最终答案是否正确,还要验证AI的思考方式是否像人类一样。为此,需要做两件事:
追踪人类的步骤,并逐项评分AI的表现:人类解决问题不是一步到位的,而是多步骤过程。列出这些步骤,检查AI是否在相同节点达到同样的结果。
从小处着手,收集理想输出的优秀示例,然后以此为标准衡量一切:例如构建客户支持Agent时,先和人类客服一起找出针对用户查询的最佳回答。对几个任务重复几次。这样你就知道“优秀”的标准是什么,并以此来衡量Agent的表现。
评估向客户证明价值。虽然人人都说要在公司里用AI,但仍有不少人怀疑AI是否真的有效。一套完善的评估体系是高管信任Agent能带来投资回报的关键。
部署: 避免大规模数据迁移。相反,应在现有数据层(如SharePoint或数据库)之上构建API,然后在其上放置一个模型作为编排器进行查询。这样可以节省时间和成本,更重要的是,避免了拆除现有系统带来的巨大痛苦。我们的客户花了数百万美元、耗费多年才迁移到最新的ERP系统,他们最不想做的就是再次替换。
完成上述步骤后,创建一个执行环境来安全地测试Agent。这个沙盒直接部署在客户的基础设施中,你可以在进入生产环境之前运行、测试和调试Agent。
进入生产环境时,要循序渐进。先选一个小工作流,让它跑通,然后逐步添加更多功能。例如,先让Agent负责捕获错误、调查问题、编写工单总结其认为出错的原因。如果这个功能正常,再赋予它编写代码并提交PR的能力。
先从最小的自主单元开始,只有确认可靠后,再赋予它执行操作的能力。
以上就是作为FDE从审计到部署的全过程。掌握这些步骤本身就是这个岗位的全部内容。
如何在30天内成为FDE
通常有三种背景的人最容易成为FDE:咨询顾问、产品经理和软件工程师。即使你不属于其中任何一种,只要遵循本节末尾的30天路线图,也能大幅增加获得该职位的机会。请将以下步骤与申请和面试同步进行。
咨询顾问/产品经理
作为咨询顾问或PM,你应该已经具备将数据转化为投资回报率的能力。这是工作的一半。但这类背景最大的障碍是缺乏工程经验。
高质量的作品集可以弥补这一点。从以下副项目中选择两个,全力以赴:
- 一个生产就绪的AI Agent,能完整执行你过去在旧工作中手动完成的整个流程。它应该能够调用API、自主记录思考过程,并具备故障处理机制。
- 一个基于自定义数据集(针对你希望进入的行业:法律文件、医疗记录、财务报表等)构建的RAG管道。
- 一个你自己构建的评估框架,能针对不同业务流程(采购、应付账款等)从多个维度(正确性、格式、成本、延迟)评分Agent的输出。
- 一个MCP(模型上下文协议),将LLM连接到目前不支持AI集成的旧软件。
不要依赖AI来帮你理解。如果你一步步来,这些概念应该很容易掌握。之所以标题是30天而不是30分钟,是有原因的。
软件工程师
作为FDE,沟通能力可以说是最重要的部分。你需要将AI能做和不能做的事,翻译成非技术背景的VP能理解的语言。如果你做不到这一点,就无法成为FDE。
软件工程师应构建与咨询/PM部分类似的项目,但要解释你所构建的每一个组件:技术栈、结果、迭代过程、业务成果。最重要的是,你需要有构建这些Agent的根本理由:你解决了什么痛点?在实际客户交互中会如何应用?
无论何种背景的30天大纲
想要更具体,请遵循这个30天计划,它将为你应对几乎任何情况做好准备:
检查点1(第7天):
- 什么是Agent以及Agent循环如何工作:阅读Anthropic的《Building Effective Agents》,然后编写一个运行循环的脚本:提示词 → 模型 → 响应 → 下一步。
- 如何让Agent调用工具:使用Anthropic/OpenAI的工具使用教程,添加两个工具调用(一个API调用和一个网络搜索)。
- 如何构建合适的防护措施:在内容到达用户之前,添加输入验证、最大步骤限制和输出过滤。
- 何时使用上下文窗口 vs 外部记忆:默认使用上下文,除非状态需要持久化超过单次运行时间。
- 什么是审计追踪以及如何构建:记录每一次提示词、工具调用和响应,并带上时间戳。这有助于发现并标记Agent错误。
检查点2(第14天):
- 如何强制执行结构化输出:始终返回JSON。仔细阅读OpenAI的开发者页面。
- 如何将演示版推向生产环境以及通常会出现什么问题:阅读《Agent 102》。
- 如何设置检查点:每隔n步将Agent状态保存到文件,以便从最后一个检查点重新启动。
检查点3(第21天):
- 重试逻辑和指数退避如何工作:每次外部调用都需要重试。失败时,等待1秒、2秒、4秒、8秒,上限16秒。
- 部署Agent时如何优化成本:三点:低成本任务使用便宜模型(Opus仅用于推理)、缓存常用提示词、限制最大Token数。追踪每次查询的成本。
- 如何构建用于评估的黄金数据集:从20个真实查询开始,自己标注完美输出。Anthropic的《Demystifying evals for AI agents》涵盖了所有内容。
- 多Agent管道和并行架构如何工作:当一个Agent无法处理任务时,拆分工件。一个负责规划,其他负责执行,一个负责综合。
检查点4(最后一周):
复习以上所有内容,并大声进行沟通演练。尽可能将一切与业务指标联系起来。
总结
FDE是当下科技领域最抢手的岗位。每个公司都需要AI,但没人知道如何部署。
这个岗位包含三个阶段(审计、评估、部署)。你的任务是理解每个阶段及其目的。
你的作品集以及你讲述作品集的能力是关键决定因素。构建Agent、RAG管道、评估框架、MCP等,最重要的是,能够自信地阐明你所构建的一切背后的业务用例。
缺乏沟通能力是FDE岗位的致命缺陷。如果你无法向非技术决策者解释AI能与不能做什么,就不会有部署。
知道何时AI不是答案——这能建立与客户的信任,更重要的是,能确保生产环境中Agent的投资回报率。
遵循这些步骤,你进入该领域的机会将成倍增加。
如果你想加入旧金山增长最快的应用型AI公司,Varick正在招聘。我们正在硅谷构建最精英的FDE团队,由前Citadel Securities COO领导。请直接通过 https://www.varickagents.com/careers 申请。
相似文章
@vasuman: https://x.com/vasuman/status/2057177266984226892
一份关于AI公司中前沿部署工程(FDE)的全面指南,解释了为什么Anthropic、OpenAI、Google等公司需要FDE,以及如何通过审计、评估和部署来在该角色中表现出色。
@AndrewYNg: 硅谷新兴的热门职位之一是人工智能前部署工程师(FDE),即嵌入客户组织内部,帮助定制解决方案的工程师,例如构建和调整适合客户特定需求的代理工作流。
吴恩达探讨了人工智能领域前部署工程师(FDE)的复兴,将其与AI工程师角色进行对比,并预测随着该领域的成熟,AI工程师岗位将远超FDE。
@dabit3:前向部署工程师是目前最热门、需求量最大的工作之一。各大 AI 公司都在招聘…
前向部署工程师(Forward Deployed Engineer)目前已成为人工智能行业需求最为旺盛的职位之一,各大公司正在积极寻求兼具工程技能与出色沟通能力的候选人。
@dotey: https://x.com/dotey/status/2055307775417139447
AI行业出现新岗位Forward Deployed Engineer(FDE),主要负责驻场客户公司编写代码并整合AI系统。OpenAI、Anthropic和Google分别通过独立公司或内部招聘方式大力招募FDE,标志着AI公司从卖模型转向卖落地。
@levie: 我完全信奉前向部署工程,因为AI和软件根本不同。在软件中,……
认为AI部署与软件不同,需要前向部署工程(FDE)来管理持续演进并在客户间共享最佳实践,尤其是在自主代理系统变得更为普遍时。