AI 智能体何时应该提问？有限人类注意力下的澄清请求

Hanzhao Wang, Shengjie Liu, Zhengchao Wang https://t.co/D67v9oiLYD [cs.AI cs.HC] https://t.co/rix1CIVwFy

AI 智能体何时应该提问？有限人类注意力下的澄清请求

来源：https://arxiv.org/html/2610.41129 Shengjie Liu、Zhengchao Wang

摘要

AI 智能体越来越多地并行执行被委托的任务，由一个人同时监督多个智能体。在实践中，智能体常常缺少完成任务所需的信息，例如未明确说明的偏好、约束或规格要求。它可以向人类请求澄清，也可以自行搜索这些信息——例如查找历史记录——但这既耗费时间精力，也可能失败。本文研究如何在多个共享同一位注意力有限的人类的智能体之间协调这些决策。我们构建了一个简化模型，其中每个智能体可以搜索、提问，或者继续执行其任务中不依赖于缺失信息的部分，并将该问题表述为动态规划。我们首先证明，智能体是否应当提问不仅取决于自身的不确定性：有其他工作可做的智能体可能更早提问更有利，而人类应当优先回答哪个问题取决于所有待回答的问题，因此不存在逐个智能体计算的最优排序。随后我们提出了成对协调策略（Pairwise Coordination Policy, PCP），它利用精确可解的单任务与双任务问题来估计当两个任务共享同一位人类时它们相互造成的延迟。理论上，当最多两个需求未解决时，PCP 是精确最优的；当所有未解决的需求都必须由人类解决时，其代价至多为最优代价的两倍。我们在 864 个合成案例以及一项使用 LLM 智能体的案例研究中对 PCP 进行了评估。在合成基准上，PCP 相对于最优代价的平均差距为 0.07%，与三种标准的提问时机规则相比平均降低了 18–31% 的代价。在 LLM 案例研究中，智能体正确完成了所有任务，且 PCP 在所有测试设置中均取得了最低的平均代价。

关键词：AI 智能体、人机协作、澄清请求、共享注意力、近似动态规划。

1 引言

组织日益将多步骤工作委托给 AI 智能体。在 McKinsey 2026 年的调查中，来自各组织的受访者中有 40% 表示已在至少一个业务职能中扩展智能体的应用，高于上一年的 27%（McKinsey, 2026 (https://arxiv.org/html/2610.41129#bib.bib1)）。委托也在改变个人组织工作的方式。来自 Codex 的使用证据显示，用户将任务分配给多个并发运行的智能体，在单独的对话线程中跟踪进度，并在需要澄清、审查或纠正时介入（Johnston et al., 2026 (https://arxiv.org/html/2610.41129#bib.bib2)）。因此，一个人可能同时监督多条智能体工作流，并充当所有这些工作流共享的人类输入来源。这种安排引出了一个操作性问题：智能体何时应当继续自主工作，何时应当寻求人类输入？在实践中，这一选择已经取决于可用的人类处理能力有多少。例如，OpenTable 的客服智能体依赖知识资源并遵循升级规则，当人员紧张时可以调整这些规则的阈值（Salesforce, 2025 (https://arxiv.org/html/2610.41129#bib.bib3)）。同样，Anthropic 的一项内部研究描述了员工如何管理来自智能体的竞争性请求，并开发工具对其进行分流（Wilmers et al., 2026 (https://arxiv.org/html/2610.41129#bib.bib4)）。这些例子促使我们研究如何跨任务协调智能体的自主努力与其对人类介入的请求。

当智能体缺少完成被委托任务所需的信息时，这个问题就变得具体了。指令可能没有说明偏好、约束或其他细节。有些缺口需要委托任务的人来澄清需要什么，而另一些则可以由智能体已有的材料填补。设想一位采购经理，其手下的智能体各自处理不同的采购。缺失的规格说明或许可以从以往订单的记录中恢复，或许需要经理的澄清。协调多个编码智能体的开发者可能会遇到关于预期行为的问题，而答案已经存在于测试或问题历史中。同样，委托了旅行调研、购买比价和活动策划的人，可能会被询问那些已记录在其电子邮件、日历或笔记中的偏好。这样的缺口不一定会让任务停滞。在缺失信息尚未解决期间，智能体可能仍能整理记录、编写不受该待决问题影响的代码，或比较通用的替代方案。

图 1 (https://arxiv.org/html/2610.41129#S1.F1) 展示了 Codex（Johnston et al., 2026 (https://arxiv.org/html/2610.41129#bib.bib2)）中的一个简单实例。为同一个人工作的两个编码智能体同时需要输入。其中一个正在构建每日销售报告，询问应以哪个时区定义一个工作日。另一个正在实现结账流程，询问优惠券和忠诚度折扣能否叠加使用。两个智能体都已暂停，它们的问题在等待同一个人。

智能体应如何处理此类缺口并不显而易见。寻找答案需要花费时间和精力，而这些时间本可以用来推进任务，而且搜索可能一无所获。然而，当搜索成功时，人类便免受一次打扰，有更多注意力留给其他智能体。尽早提问也有其吸引力：人类可以在智能体继续执行任务其他部分的同时回答问题，从而减少等待损失的时间。但每个问题都在争夺同一个人的注意力，一个智能体本可以自己回答的问题可能会延迟一个确实需要人类输入的问题。提问也未必终结智能体的搜索：在等待回复期间，它可以继续查找，并在人类处理之前找到答案时撤回该问题。因此，对某个智能体而言，正确的选择取决于人类的可用性以及其他智能体的需求。

我们研究如何共同做出这些决策：智能体应当如何平衡寻找缺失信息、继续工作和寻求澄清，以及在人类可用时应当优先回答哪个待决问题。

图 1：两个 Codex 编码智能体在同一时刻需要同一个人的输入。

我们将这个问题表述为动态规划。每个任务有其对应的智能体，在每个时段，它可以搜索现有记录以查找缺失的推进要求、推进不依赖于该要求的工作，或者向共享的人类提交问题。人类只是间歇性可用，每时段最多回答一个问题。问题在被回答之前一直处于待决状态，如果搜索成功，智能体可以继续搜索并撤回该问题。我们证明若干动作可以在不损失最优性的前提下移除，从而使问题成为有限动态规划，尽管其规模随任务数量呈指数增长。

我们首先研究单智能体情形，考察不同设置如何影响最优策略。我们证明，对于独立工作已完成但需求仍未解决的智能体，其最优策略由失败搜索次数上的两个阈值表征，这两个阈值决定它是应当再次搜索还是向人类提问。我们还证明，增加独立工作量（不需要人类或搜索提供额外信息）可以促使智能体更早提问，从而增加对人类的需求。最后，我们研究允许智能体撤回待决问题如何影响对人类的需求，突出撤回在此设定中作为重要决策选项的作用。

随后我们考虑包含多个任务的组合。首先建立一个否定性结论：任何仅基于各任务自身状态的策略都不是最优的。然后我们提出成对协调策略（PCP），它使用精确可解的单任务与双任务问题来估计未来代价。每个成对项衡量两个任务通过共享同一位人类而相互造成的延迟，我们称该量为共享注意力的成对代价。当最多两个需求未解决时，PCP 是精确最优的；一旦不再有任何搜索可能成功，其代价至多为最优代价的两倍。

在数值实验中，我们首先进行了合成实验，PCP 的代价在 864 个三到四任务的组合上平均仅比最优代价高 0.07%。与常见的提问时机规则相比，PCP 还平均降低了 18% 到 31% 的代价。一项让 LLM 智能体使用 Codex 执行采购任务的案例研究同样显示了 PCP 的类似优势。

本文其余部分组织如下。第 2 节 (https://arxiv.org/html/2610.41129#S2) 综述相关工作，第 3 节 (https://arxiv.org/html/2610.41129#S3) 介绍模型，第 4 节 (https://arxiv.org/html/2610.41129#S4) 分析单个任务，第 5 节 (https://arxiv.org/html/2610.41129#S5) 发展 PCP 及其保证，第 6 节 (https://arxiv.org/html/2610.41129#S6) 报告数值研究和案例研究，第 7 节 (https://arxiv.org/html/2610.41129#S7) 进行总结。

2 文献综述

本研究综合了四条研究脉络：人机委托、澄清与序贯信息获取、共享人类注意力的分配，以及结构化动态优化。具体而言，我们考察这样一种设定：多个智能体可以搜索缺失要求或推进独立工作，而它们的澄清请求在竞争单个人类的注意力。

2.1 委托与可调节自主

关于智能体信息系统的研究将委托视为人类与智能体之间责任的动态分配。Baird 和 Maruping（2021）(https://arxiv.org/html/2610.41129#bib.bib5) 提出了关于向智能体系统委托以及从智能体系统委托的概念框架，Zhang 和 Sun（2026）(https://arxiv.org/html/2610.41129#bib.bib23) 则围绕人类与智能体随时间进行决策的交互结构，提出了一个决策科学研究议程。行为证据补充了这些框架：Fügener et al.（2022）(https://arxiv.org/html/2610.41129#bib.bib13) 表明人机协作的绩效取决于委托的方向以及人类评估自身能力的水平。早期关于混合主动交互（mixed-initiative interaction）和可调节自主的研究将寻求人类输入视为序贯决策。Horvitz（1999）(https://arxiv.org/html/2610.41129#bib.bib18) 倡导对何时行动、何时引入用户进行决策论推理，Scerri et al.（2002）(https://arxiv.org/html/2610.41129#bib.bib19) 对可撤销的控制权转移建模，考虑了不确定的人类响应时间及其对团队绩效的影响。我们采取规范性的、可操作的方法。假设搜索可靠性与人类回答可靠性固定，我们将每个问题建模为处于待决状态，直到被回答或在搜索成功后被撤回。在问题待决期间，智能体可以继续工作。我们分别考虑通知成本、回答成本和等待成本，使每种成本塑造不同的决策。

2.2 澄清与序贯信息获取

在进一步搜索与提问之间进行选择，与序贯搜索经济学相关，其中进一步信息的价值同时决定搜索顺序和停止时机（Weitzman, 1979 (https://arxiv.org/html/2610.41129#bib.bib21)）。在我们的设定中，重复尝试针对单一需求，失败的搜索会弱化下一次尝试成功的概率，而搜索消耗的智能体时间本可用于推进独立工作。近期的澄清研究将问题视为有代价的信息获取。Dong et al.（2026）(https://arxiv.org/html/2610.41129#bib.bib11) 将提问带来的期望效用增益与用户的认知成本进行权衡，Suri et al.（2026）(https://arxiv.org/html/2610.41129#bib.bib20) 将完全信息期望值应用于结构化的工具参数，区分对用户规格的不确定性与模型预测的不确定性。计算研究进一步表明，澄清以何种方式、在何时进入执行过程很重要：Edwards 和 Schuster（2026）(https://arxiv.org/html/2610.41129#bib.bib12) 在多智能体框架中将指令欠规格检测与代码执行分离开来，Gulati et al.（2026）(https://arxiv.org/html/2610.41129#bib.bib16) 发现澄清的价值取决于缺失的信息以及它在执行的哪个阶段到达。与这些研究不同，我们考虑多个共享同一位人类的不同任务。在某个任务上搜索缺失信息保留了人类协助其他任务的能力，同时智能体可以在等待回答时继续工作。这使我们能够确定何时存在独立工作会让即时澄清更有吸引力，并通过澄清请求对组合完成代价的影响来评估它们。

2.3 共享人类注意力的分配

相关的一条研究脉络研究人类对多个机器人的监督。Dahiya et al.（2022）(https://arxiv.org/html/2610.41129#bib.bib9) 将半自主机器人之间的操作员分配表述为 restless bandit 问题，并在 Whittle（1988）(https://arxiv.org/html/2610.41129#bib.bib22) 的基础上推导了 Whittle 指数策略的成立条件。Cai et al.（2022）(https://arxiv.org/html/2610.41129#bib.bib7) 在处理时间已知的条件下，使用混合整数规划对可自主完成或在人类协助下更快完成任务的机器人进行调度。Costen et al.（2024）(https://arxiv.org/html/2610.41129#bib.bib8) 设计了一种共享协助的竞价机制，在其直接收益与了解潜在操作员绩效之间取得平衡。在我们的模型中，协助需求是内生的：智能体可以通过找到信息来消除自身的澄清需求，即使在提问之后依然如此。搜索与工作竞争智能体的时间，而人类服务则与工作并行。这些特征改变了优先级应当如何设定。我们的成对策略使用精确求解的双任务问题对共享人类的代价进行定价。

我们的设定也与调度问题相关。当所有剩余需求都必须由人类提供时，选择回答哪个问题就是一个处理时间为单位长度的单服务器调度问题。在没有独立工作的情况下，按权重降序服务问题是最优的，这与 Smith 规则一致（Smith, 1956 (https://arxiv.org/html/2610.41129#bib.bib24)）。

2.4 结构化动态优化

我们的计算方法建立在具有分解值函数的近似动态规划之上。对于分解马尔可夫决策过程中的多智能体规划，Guestrin et al.（2002）(https://arxiv.org/html/2610.41129#bib.bib14)、Guestrin et al.（2003）(https://arxiv.org/html/2610.41129#bib.bib15) 使用局部值函数和协调图。de Farias 和 Van Roy（2003）(https://arxiv.org/html/2610.41129#bib.bib10) 在线性规划方法中将值逼近与控制性能联系起来，Boehmer et al.（2020）(https://arxiv.org/html/2610.41129#bib.bib6) 则利用个体效用和成对收益来逼近联合动作值。成对协调策略的各个组成部分构建自我们模型中精确求解的简化版本。对于每对任务，它从两个任务共享人类时的联合值中减去两个单任务值，从而分离出共享该能力的代价。