招聘智能体是容易的部分

困难的部分是管理、评估和改进智能体。验证，而非能力，才是自动化的真正制约因素。

与 Caleb Shack 合著

智能体正日益成为我们工作方式中根深蒂固的一部分。它们扩展了组织中每个人的能力、容量和自主性。当今许多 AI 工具专注于如何增强人类工作流程；我们很高兴看到更多工作转向自动化工作负载的智能体，尤其是当领域特定模型引领新前沿时。

在我们思考如何从现状（主要是增强）走向未来（智能体作为自动化者）时，我们发现一个有用的类比是将智能体比作员工。对于员工，有经过验证的招聘、入职和晋升流程。大致如下：

• 筛选：测试此人是否有能力胜任工作。

• 入职：将新员工融入现有工作流程和组织结构，为内部工具设置访问（控制），并广泛提供公司特定上下文。

• 持续绩效评估：评估所产生的工作是否真的好，并提供反馈以改进。

同样的情况也适用于智能体，而且将会如此。需要说明的是，智能体招聘基础设施的部分建设已经在进行中。离线评估擅长评估模型或智能体能否完成特定工作流程（第 1 步，即筛选）。第 2 步的基础设施可能采用 Glean 或 Cognee 等形式——这些共享基底让智能体能够轻松访问组织的工具并利用公司知识图谱。

第 3 步——评估工作是否“好”并提供反馈以改进——是我们最感兴趣的。在《Automate vs. Augment》中，我们认为验证工作质量是决定工作流程何时可以自动化的关键。评估是公司如何评估该标准的技术实现。但是，就像评估员工一样，这比简单的“工作是否完成？”要复杂得多。因此，我们最关心的一些问题包括：

• “好”是如何定义的（由谁定义）？ 第一批自动化者关注的是易于验证的工作领域——即工作是否完成，是/否？但未来，随着质量验证变得更加复杂，情况将更加微妙。标准可能开始变成：工作是否高效完成？然后，工作是否符合公司的隐性标准（例如，与组织内的直觉性、经验性知识一致）？我们尤其对那些历来难以验证、但随着模型改进而变得更容易验证的工作感兴趣。

• “好”如何在整个智能体生命周期中复利增长？ 如今，对生产环境中智能体的反馈（“在线评估”）主要引导智能体系统完成适配的任务。循环看起来像是：人工记录智能体的成功或失败，对其进行标记、评分，然后该反馈引导智能体改进。但评估作为产物存在于外部、由人工维护的数据库中。是否存在这样一个世界：反馈可以在智能体内部积累，并在整个组织内更自主地复利知识？换句话说，智能体开始指导自己的学习循环需要什么条件？

• 当智能体收到公司特定反馈时，谁拥有这些数据？ Palantir 称之为“Sovereign AI”；我们认为所有权是架构的基石（我们自主性论点中的关键支柱）。

• 每家公司都需要自己的评估层吗？ 公司何时需要针对其特定流程定制智能体，又应该在什么场景下期望智能体开箱即用？

• 如果组织内的智能体失控，责任由谁承担？ 有关内部权限、责任和访问控制的问题是构建稳固自主系统的核心。我们内部的法律顾问/投资人 @dbarabander 和 @sabina_beleuz 也坦承确保我们花足够的精力反复思考创始人如何避免责任陷阱 :)

未来 3-5 年的世界将拥有比今天多得多的智能体。我们如何从这里走到那里，存在许多模糊的问题——这些问题在我们在构建自己的智能体系统时、在与投资组合公司讨论他们如何整合智能体时，以及在我们的一些投资（例如 Prism）日常应对中，都有亲身经历。

作为投资者和 AI 原生用户，我们对这个领域非常兴奋，并乐意与思考这些问题的人交流。