为上下文感知型 AI 辩护

# 为上下文感知型 AI 撑腰 来源：https://www.technologyreview.com/2026/10/22/1146812/making-the-case-for-context-aware-ai 企业级 AI 可以生成推荐、自动化任务，并帮助组织更快地做出决策。但如果它不了解企业实际的运作方式，即使是强大的模型也可能忽略那些决定决策是否正确的约束条件和关联关系。随着企业试图将 AI 从实验阶段带入日常运营，接下来的挑战在于为技术提供足够的上下文，使其能够在复杂的业务流程中有效运作。 对于 Celonis 企业 AI 首席科学家 Devavrat Shah 来说，这种上下文是他所称的"决策智能"（decision intelligence）的核心。他认为，AI 智能体可以支持大型决策流程中的单项任务，但它们需要理解每项任务所扮演的角色以及围绕它的业务条件。"你不能在真空中做到这一点，"他说。如果缺乏正确的运营上下文，智能体就可能忽略重要的约束条件、犯下代价高昂的错误，或者在试图弄清楚自己需要了解什么的过程中消耗过多的计算资源。 解决方案始于将 AI 与企业已在使用的流程和数据连接起来。一个上下文层可以帮助智能体理解工作流程、在既定的防护栏内运作，并生成可供人类审核和批准的建议。Shah 建议组织从一个具体的业务决策入手，找出其中最困难的步骤，然后测试 AI 是否能够改善它们。衡量速度和价值方面的提升，进而有助于判断某个应用是否值得扩大规模。 这种方法也可能改变员工的使用时间方式。将重复性、手工性的工作自动化，并在团队之间协调任务，可以让人腾出精力专注于更复杂的决策。然而，要实现这一收益，就需要对员工培训进行投资，使员工能够理解 AI 的产出及其影响，而不是仅仅将决策权交给智能体。 展望未来，Shah 看到了从常规运营任务到企业级规划的广泛机会，涵盖财务、人力管理、营销和销售等领域。在拥有正确上下文的情况下，AI 可以帮助组织更快地评估选项并做出重要决策。正如 Shah 所言："现在，也许【资源规划】不应该花费那么长时间，而人们确实能够快速做出正确的选择。" *本期 Business Lab 与 Celonis 合作制作。* **完整访谈记录** *Megan Tatum：*大家好，我是来自 MIT Technology Review 的 Megan Tatum，欢迎收听 Business Lab——这档节目帮助商业领袖理解从实验室走向市场的新技术。 本期播客与 Celonis 合作制作。 目前，企业级 AI 正处于一个十字路口。经过多年的实验、演示和试点，领导团队希望看到明确的证据，证明规模化应用会对他们的利润率产生积极影响，但许多人忽略了拼图中至关重要的一块。由于缺乏运营上下文，企业级 AI 和 AI 智能体正在以显著的劣势运行。它们将通用原则应用于特定场景，结果却不尽如人意，这使得商业领袖有理由持怀疑态度，也让 AI 的潜力未能得到充分发挥。 送你两个字：上下文很重要。 今天的嘉宾是 Celonis 企业 AI 首席科学家 Devavrat Shah。 欢迎你，Devavrat。 *Devavrat Shah：*你好，Megan。谢谢邀请。 *Megan：*非常感谢你今天来到这里。Devavrat，首先想请教，为什么组织现在思考运营上下文与企业级 AI 的关系如此关键？是什么让它成为我刚才提到的从实验到规模化转型中的关键部分？ *Devavrat：*这是一个非常好的问题。正如你所指出的，我们正处于从实验阶段迈向主流应用的门槛上。正如你所知，我作为教授在 MIT 教授 AI 课程已经二十多年了，所以我对 AI 在企业中的未来非常看好，这毫不奇怪。 我思考 AI 能在企业中带来最大影响的方式是决策——帮助企业做出决策，或者换个说法，我们如何将决策智能带入企业？在思考决策时，我们今天是如何做决策的？拿 MIT Tech Review 来说，拿 Celonis 来说，拿 MIT 来说，拿任何大型组织来说。从大致分类来看，我们有不同类型需要做出的决策。有像偶发性事件那样的战略决策，也有需要高频执行的运营决策。无论哪种，我们都有相应的流程。你先做这个，你先做那个，你先做这个，你先做那个。我们中很多人协助协调这些事务，很多人在其中扮演角色——Jensen Huang 将其称为"任务"（task）。当你一步步完成这些事情后，最终做出决策。 而现在，正是这些任务——或者我所说的角色——AI 可以以原子化的方式注入智能体能力，从而至少对决策的部分环节（如果不是全部）进行增强、支持，有时在痛苦的情况下进行自动化。要实现这一点，要确定该由哪个角色来完成哪个任务，我们确实需要了解上下文。你不能在真空中做到这一点。因此，将上下文与 AI 以正确的方式结合起来，就能为企业带来我所说的决策智能。我认为那将带来最大的变革。 *Megan：*好的。再深入一点来说，我们知道许多组织正如你所说，正在拥抱 agentic AI，并期待越来越自主的决策能力。如果不同时引入上下文，会带来哪些商业风险？ *Devavrat：*好问题。就拿我刚才描述的场景来说。我们试图根据决策类型和任务类型来自动化一个角色、支持一个角色或增强一个角色。让我们想象一下，所有这些被称为"前沿实验室"的机构已经构建了令人惊叹的模型和 AI 基础设施，以至于宇宙中已经发生过的一切以及可能发生的一切都在其中。 现在，我们有一个小的决策要针对非常具体的上下文来做出。如果没有对这个特定上下文的访问权限，这个庞大系统——这个极其聪明的"人"——会通过像我们人类一样不断提问，最终自己推断出来，然后做出正确的做法。问题在于，在达到那个目标的过程中，它会在某种程度上进行大量计算，以至于为了完成简单任务，我们花费了大量的计算资源。这是场景一。 而现实中，情况不会是这样，我们会遗漏一些重要的上下文、重要的约束、重要的防护栏，然后犯错。有时这个错误可以接受。就像我给你推荐说去 A 餐厅，你可能不太享受那顿晚餐；但有时错误会非常、非常昂贵——比如我告诉你财务预测结果，而不知何故这导致了公司的覆灭。 *Megan：*对。在企业环境中，这些是真正关系到业务命脉的决策。所以如果我们搞错了，影响会更大，不是吗？从实际层面来说，组织有哪些不同的方式来添加我们讨论的这个上下文层？例如，Celonis 是如何通过组织的实时数字孪生来提供这种运营上下文的？ *Devavrat：*当然。我认为回顾一下 Celonis 的历史可能会有所帮助。正如你所知，Celonis 作为一个组织，其诞生的使命和目标就是帮助组织遵循其理想流程、构建更好的流程、使人们能够以相互交织的方式处理多个流程。这就是他们最核心的、可以说是"基因"所在——我将其称为流程智能（process intelligence）。看看企业如何将多个事物整合在一起、数字化、使人们能够更好地改进流程、了解问题出在哪里，然后如何在组织内部重新设计流程，使事情能够更好地运转。 现在，如果你想把决策智能带入其中，流程中的每一个原子步骤——过去可能由专家或人工完成——现在我们希望智能体来帮助我们实现。这正是关键所在：了解企业内部的流程上下文，然后将其与 AI 智能体结合——我将其称为"角色化智能体"（role agents）——恰好提供了将决策智能引入企业的正确方式。Celonis 正是通过这种方式将上下文带入，帮助组织做出更好的决策。 *Megan：*对。那么关于这如何运作，上下文层与下面的层——也就是记录系统层（systems of record）——以及上面的层——agentic 层——之间是什么关系？ *Devavrat：*这是一个非常好的问题，Megan。下面的层主要是，如果我们称之为记录系统，主要是现有的工作流工具以及它们产生的事件日志。上面的层则是业务用户专家在消费信息，或者他们可能通过在上下文层之上运行的智能体来消费信息。这就是 Celonis 所称的"上下文模型"的设计目标——同时完成三件事。第一是获得下面这层的正确抽象，使流程的正确部分能够被智能体化（agentified）。第二是以结构化、有防护栏的方式为这些部分引入角色化智能体。第三是以智能体优先的方式设计，使得如果还有其他 agentic 基础设施已经在与之通信，它们可以自然地接入，从而为人类或专家提供正确的产出供他们审核、查看、批准，有时再进行自动化。 *Megan：*太好了。对于我们讨论的这些好处，实施上下文层是否也存在挑战？例如，大多数组织是否拥有正确的数据来为 AI 提供所需的上下文？如果不是，我想知道他们可能需要采取哪些实际步骤来解决这个问题。 *Devavrat：*这又是让这一切落地的关键问题。我们可以想象一个理想的世界，但如果无法到达，那它就只是理想而已。在当前场景中，正如我们讨论的三层结构，第一层是下面的记录系统和工作流工具层。从某种意义上说，这些东西已经存在了。它们不需要是完整的，也不需要是最干净的。上下文模型在设计上采用了 agentic 架构，能够连接到这些东西并从中理出头绪。 而上层的东西很大程度上在 Celonis 的基础设施控制之下，所以并没有那么复杂。但这里的关键在于，当进入企业环境时，当你打开一个记录系统或工作流工具、事件日志或类似的东西时，你必须经过我所说的经典信息安全部门（InfoSec）的审批，以确保你可以信任将进入你组织的供应商软件。我认为这是主要的流程，也就是前后的那一步。 *Megan：*对。这才是人们在这里需要采取的关键步骤。随着具备上下文的 AI 智能体能够做出更复杂、更准确的决策，我想知道你认为人类智慧和输入在未来将扮演什么角色？组织如何在两者之间取得平衡？ *Devavrat：*这里有好处，也有挑战。好处是显而易见的。如果你以正确的方式将 AI 智能体放在正确的角色上，让他们通过你的决策流程，希望他们能更快地完成，这样你的决策就会更早做出，你不会错过机会成本。你能及时做出决策，可以更好地规划，等等。当你必须处理非常手工的、重复性的、枯燥的任务，而劳动力的获取和人员之间的协调成为决策过程的关键部分时，这尤其有用。从某种意义上说，这就是巨大价值所在。但反过来说，这意味着人们将不再做这些工作。 另一方面，我们始终在做的另一种决策——战略决策。它可能是一个小的战略决策，也可能是一个大的战略决策，但通常是大多数组织没有精力去思考的战略决策。这个机会将被打开，很可能会有更多的人类和专家参与其中。从某种意义上说，他们将获得更好的支持，帮助他们理性地思考有哪些选择，不同选择之间如何比较。但归根结底，决定选择哪个方案是组织的职责，因为这关系到他们的利益和方向。 所以从某种意义上说，将会出现我所说的劳动力转移——人们不再做那么多重复性的工作，而是更多地从事战略性工作，人们将需要在这方面投入时间。 我个人非常乐观的另一个方面是，每一次技术变革都会创造新的工作形式，在变革发生时很难预测。我希望会出现另一类机会和工作，让我们能够投入劳动力。不用说，这意味着我们需要深思熟虑地重新培训或教育部分劳动力。作为一名学者、一名教育者，我真心觉得这些变革发生的时间尺度是如此之快。所以我们需要以同样的速度来行动。 *Megan：*对于任何正在收听这个节目的决策者来说，他们应该如何开始实施这些变革？例如，他们如何准备他们的劳动力？治理应该扮演什么角色？ *Devavrat：*好的，这是个很好的问题。如果你想开始，你需要做的第一件事是确定一个你想引入智能的决策。让我们找出围绕它的流程。让我们识别流程中的每一步。我们选择其中最关键、最困难的步骤。我们尝试引入 AI 智能体来帮助你完成它。然后从那里出发，让我们衡量我们获得了多少速度、多少价值？这将帮助我们判断这是否值得。这是第一点。 第二是治理。我们要以这种规范的方式将 AI 引入角色中的每项任务。这意味着对于该角色，我们可以非常清楚地告诉它可以做什么或不可以做什么。Celonis 为此推荐经过认证的角色化智能体（certified role agents）。这有助于你清楚地了解这方面的契约应该是什么样的。 第三是人，这也是真正重要的地方。有一部分工作会被自动化，但还有一部分需要专家参与其中（human in the loop），他们需要理解 AI 的输出、如何与之协作以及它会产生什么影响。因此需要一些 AI 方面的教育，然后还需要一些工具方面的教育。 *Megan：*是的，完全同意。这个领域的速度确实惊人，不是吗？说到这里，我想如果我们能以展望未来来结束——在正确的上下文下，当然——你认为企业级 AI 在不远的将来有哪些用例……