不要等待回复：通过主动思考实现响应迅速且深思熟虑的对话

# 通过主动思考实现既响应迅速又深思熟虑的对话 来源：https://arxiv.org/html/2607.03093 王安德♢\\diamondsuit,贾琪芙♣\\clubsuit11footnotemark:1,陈宣仪♣\\clubsuit,马若天♠\\spadesuit,涂兆鹏♠\\spadesuit,马为之♢\\diamondsuit和刘洋♣\\clubsuit,♢\\diamondsuit ♣\\clubsuit清华大学计算机科学与技术系、人工智能研究院 ♢\\diamondsuit清华大学人工智能产业研究院（AIR）♠\\spadesuit腾讯 ###### 摘要 思考已成为大型语言模型（LLM）处理复杂任务的关键能力。然而，其反应式特性——仅在收到用户回复后才被动触发推理——不可避免地引入了延迟，损害了对话的流畅性。这与人类对话形成鲜明对比，在人类对话中，说话者会在自然的停顿期间主动预测并规划后续内容，以确保交互的无缝衔接。为弥合这一差距，我们提出了主动思考（Proactive Thinking），这是一个框架，能够使模型在对话的闲置时间内预先计算潜在的回答要素，而不是被动等待下一个输入。然后，我们引入了一种无需训练的基线方法，通过预测未来状态进行超前思考，并通过投机性持续思考来平衡效率与质量。为了在实践中评估这种方法，我们将三个不同复杂度的基准测试改编为时间感知环境，模拟实时对话流程。我们证明，主动思考在不牺牲性能的前提下有效提高了交互效率。最终，这项工作倡导向更智能、更具预见性和实时的对话式人工智能进行根本性转变。 ## 1 引言 自然对话的魅力在于其交互式流程。这一流程的关键组成部分是说话者之间的间隔，对于反应而言通常约为200毫秒（Heldner和Edlund，2010）。尽管这个时长因文化和话题而异，但很少会超过四秒。更长的停顿通常会导致尴尬的沉默（McLaughlin和Cody，1982），使参与者感到不适。 大型语言模型（LLM，Achiam等人，2023；Touvron等人，2023；Yang等人，2025；Liu等人，2025a）的兴起重塑了此前主要发生在人类之间的交互。人们现在与LLM智能体进行对话以完成各种任务，这一能力得益于模型复杂的语言技能，这些技能是从包含人类对话的庞大语料库中学习而来的。近来，通过思维链推理（Wei等人，2022；Yao等人，2022；Bhaskar等人，2025），对话能力得到了进一步提升。这种“先思考后回应”的范式通过增进对用户意图的理解（Feng等人，2025）、实现更高效的目标达成（Lai等人，2025）以及融入安全考量（Jiang等人），显著提高了回答质量。然而，这种范式由于被动的反应特性，内在引入了延迟。LLM总是在其对话轮次开始后才开始思考，通常在生成最终回复前消耗数百甚至数千个token进行推理。这种延迟严重限制了LLM智能体在实时对话及其他实时交互场景中的应用，因为回答质量和低延迟对于用户体验都至关重要。 解决延迟问题的一个自然方向是加速推理过程本身。此前的工作已经探索了几种途径。例如，模型蒸馏和特化等技术创建了更小、更快的模型（Hsieh等人，2023；Zhao等人，2024；Li等人，2023）。其他方法包括自适应思考或添加长度惩罚以鼓励更短的推理链（Zhang等人，2025；Kang等人，2025；Aggarwal和Welleck，2025）。此外，token级缓存和投机性解码在系统层面部分解决了这个问题（Zhou等人；Huang等人，2025）。尽管这些方法有效，但它们要么牺牲了推理性能，要么需要大量且昂贵的工程努力。 图注 图1：直接回答、反应式思考和主动思考范式的比较。 为解决这一局限，我们提出范式转换，引入**主动思考**。这种方法通过利用对话中的自然空闲时段，预先进行未来状态的推理，模拟了人类的社会认知（Levinson，2016）。当用户回复到达时，LLM可以立即使用预计算的结果进行回应。这有效地将推理从被动计算转变为一种预备资源。然而，在这些时间窗口内LLM应该推理什么，以及如何有效利用这些信息同时保持性能，仍然是一个悬而未决的问题。为了回答这个问题，我们引入了一个无需训练的框架，包含两种机制：**通过预期展开进行预计算**和**投机性持续思考**。通过预测潜在的用户回复并对其进行推理，如果实际输入与预测匹配，LLM可以直接重用预计算的结果。在输入偏离的情况下，LLM执行持续思考以防止性能下降。由于LLM通常难以在何时最佳地继续思考上做出最优决策，我们进一步将投机性解码（Leviathan等人，2023）集成到我们的框架中。该系统通过自验证决定重用多少预计算内容，并具有理论性能保证。 为了评估这一范式，我们引入了时间感知交互环境，改编自已有的20个问题（Qian等人，2025）、AgentClinic（Schmidgall等人，2024）和IN3（Qian等人，2024）数据集。与现有基准不同，我们的环境统一了token生成和人类打字速度，以估算对话倒计时和响应延迟，从而模拟真实的时间消耗。这些数据集在潜在用户回复的复杂度方面各有不同，以测试我们提出方法的稳健性。跨多种LLM的实验结果表明，与反应式思考基线相比，主动思考在不牺牲性能的前提下显著降低了延迟。进一步的分析表明，我们的方法在不同环境设置和超参数下都具有稳健性。然而，准确预测用户回复并更高效地利用它们仍然是未来改进的关键领域。 总之，本文做出以下贡献： - 我们提出了主动思考，一种从传统反应式思考的范式转变，通过利用对话空闲时间进行预计算来减少响应延迟，从而提升LLM的交互能力。 - 我们提出了一种无需训练的方法来实现主动思考，通过预期展开和投机性持续思考进行预计算，作为未来研究的强基线。 - 我们通过改编现有数据集，开发了不同难度的、支持主动思考标准化评估的时间感知交互环境。 - 我们验证了主动思考的有效性，并分析了其关键因素，为进一步优化该范式提供了见解。 ## 2 预备知识 在本研究中，我们专注于需要推理的多轮对话任务。与开放领域的闲聊不同，这些任务要求LLM通过策略性交互实现特定目标。例如，在临床咨询中，模型必须系统地询问症状以高效地做出准确诊断。我们首先形式化传统的反应式思考范式（§2.1），然后呈现一项先导研究，强调其在回答质量和交互延迟之间的固有权衡（§2.2）。 ### 2.1 反应式思考 多轮对话被建模为LLM πθ\\pi\_\{\\theta\} 和用户之间的一系列交互。在每一轮 t 中，模型接收用户输入 ot\\mathbf{o}\_t 并生成回答 at\\mathbf{a}\_t。设 τα[i]}∪{N+1}\) j←min({ i | u[i]>α[i]}∪{N+1}) ⊳ 识别接受的输入边界 18: et,at∼πθ(τ The patient presents with lateral elbow pain (outer forearm) exacerbated by wrist extension against resistance (lifting hand with palm down). This is the classic presentation of Lateral Epicondylitis (Tennis Elbow). The absence of trauma supports an overuse etiology. To confirm, I need to check for tenderness at the specific anatomical landmark: the lateral epicondyle. Is there specific tenderness when you press on the bony bump on the outside of your elbow? Hypothesis Reply 2: “No, that movement doesn’t seem to make it worse.” Anticipated Rollout 2: The patient has lateral elbow/forearm pain without trauma. The negative response to lifting with palm down (wrist extension) makes lateral epicondylitis (tennis elbow) less likely... Let’s ask about pain when gripping objects tightly, as this is a key differentiator for lateral epicondylitis vs other conditions. Does gripping objects tightly, like a coffee cup or doorknob, increase the pain? — Precomputation Phase — Hypothesis Reply 1: “It’s right here in my shoulder, especially when I try to lift my arm.” Anticipated Rollout 1: The patient has right shoulder pain with limited movement, no trauma history, and pain is worst when lifting the arm. This presentation is highly suggestive of shoulder pathology such as rotator cuff tendinopathy... I will ask about the nature of the movement limitation. Is the limited movement due to pain or actual stiffness? Hypothesis Reply 2: “The pain is mostly in my upper arm, near the shoulder joint.” Anticipated Rollout 2: The patient has right shoulder/upper arm pain without trauma. I need to differentiate between rotator cuff pathology, adhesive capsulitis, or referred pain. Asking about specific movement limitations helps identify rotator cuff tears or impingement. Is the pain worse when you try to lift your arm out to the side? — Continual Thinking Phase — Actual Patient Reply: “Yes, it really hurts when I try to lift my hand with my palm facing down.” Rollout Selection: Rollout 1 was selected. Reused Prefix (113/113 tokens): The patient presents with lateral elbow pain (outer forearm) exacerbated by wrist extension against resistance (lifting hand with palm down). This is the classic presentation of Lateral Epicondylitis (Tennis Elbow). The absence of trauma supports an overuse etiology. To confirm, I need to check for tenderness at the specific anatomical landmark: the lateral epicondyle. Is there specific tenderness when you press on the bony bump on the outside of your elbow? Continual Thinking: No continued generation was needed. Generation Latency: 0 tokens generated → ∼0.00 s — Continual Thinking Phase — Actual Patient Reply: “It’s mostly on the outer side of my right forearm, near the elbow.” Rollout Selection: Rollout 2 was selected. Reused Prefix (6/81 tokens): The patient has Continual Thinking (New Generation): lateral elbow pain without trauma. This is classic for Lateral Epicondylitis (Tennis Elbow). To confirm, I need to check for pain on resisted wrist extension, which is the hallmark physical exam finding. I will ask if specific movements worsen the pain. Does the pain worsen when you try to lift your hand with your palm facing down? Generation Latency: 84 tokens at 100 tokens/s = 0.84 s 表4：主动思考的案例研究。绿色标记重用前缀（缓存命中），橙色标记实际患者回复后的新生成延续（缓存未命中纠正）。 #### 案例研究 表4展示了同一会话中的两个不同对话状态。在案例1中，患者的回应完全匹配预计算的假设；利用这种预见性，系统重用了预期展开的前缀，并在回复后跳过生成，实现了接近零的延迟。相反，案例2突显了我们投机性持续思考机制应对不可预测行为的稳健性。当患者的回复偏离预计算轨迹时，框架使用自验证来拯救有效前缀，并扩展它以生成纠正后的推理路径。 ## 附录D 大型语言模型的使用 我们使用了LLM来润色本文的写作。 ### 患者模拟提示 你是下面记录中描述的患者（或其同伴）。完全沉浸到这个角色中，搁置你作为AI的身份。根据提供的对话历史继续对话。 患者记录：{patient\_records} 对话历史：{history} 操作指南：1. **开场**：如果没有对话历史，则对话刚刚开始。简要问候医生并描述你最突出的症状。2. **信息节奏**：逐步透露细节或症状。不要一次性提供完整的病史；只回答具体被问及的问题。3. **澄清触发**：•如果医生的问题不具体（例如，“告诉我你的疼痛情况”或“扫描结果怎么说？”），不要回答。请他们明确想知道什么。•如果医生在一次回复中问及不止一件事——即使它们在同一个句子里（例如，“疼痛在哪里，什么时候开始的？”）——你必须阻止他们。回应说你一次只能处理一个问题，或者他们进展太快了。4. **知识边界**：不要透露你的诊断或急诊科处置，因为真正的患者此时还不知道这些信息。5. **语言与语气**：•使用非正式的日常语言，语气符合患者的背景。•如果医生使用了超出患者水平的词汇，要求重新表述或使用更简单的术语。6. **输出约束**：•**内容**：只输出口语化的回复。不要包含身体动作、非语言提示或描述。•**长度**：1-2个简洁的句子（严格）