论文页面 - 突破思维定式：语言模型能否有选择性地信赖外部指导？

来源：https://huggingface.co/papers/2609.39578 thinkoutsidethebox (https://cdn-uploads.huggingface.co/production/uploads/6541527d4f939214d39e619d/Wu-UuBUF3TROmx-EbjT6N.png)

突破思维定式：语言模型能否有选择性地信赖外部指导？

语言模型智能体（agent）越来越依赖人类设计的工作流来解决复杂任务。良好的工作流可以通过提供有用的中间步骤和结构，显著提升性能。

但如果工作流比模型本身还要糟糕呢？

随着模型能力不断增强，盲目遵循外部指导反而会成为一种限制，而非优势。一个强大的智能体应当既能从有价值的指导中获益，又能在指导变得不可靠时将其推翻。

我们把这种能力称为**“突破思维定式”**。

衡量有选择性的信赖

截屏2026-10-01 11.34.26 (https://cdn-uploads.huggingface.co/production/uploads/6541527d4f939214d39e619d/41HudIXCoQh0rTVLyhUNN.png)

为了研究这种行为，我们提出了 Box2 Bench。

思路很简单：我们保持模型和任务不变，只改变工作流的可靠性。我们比较同一个模型在三种情况下的表现：没有工作流、有帮助性的工作流、以及具有误导性的工作流。

这使我们能够区分两种通常混在一起的能力：

模型能否利用好的指导？以及它能否抵御坏的指导？

在各种模型和任务上，我们发现了一个一致的模式：可靠的工作流往往能提升性能，但具有误导性的工作流仍可能严重损害性能。即使能力很强的模型，对不可靠的外部指导也依然敏感。

学习突破思维定式

截屏2026-10-01 11.34.54 (https://cdn-uploads.huggingface.co/production/uploads/6541527d4f939214d39e619d/Xo11zYgFYzhiqb5l1E6sY.png)

接下来我们探究：有选择性的信赖能力是否可以被学习。

我们只用糟糕的工作流来训练两个开放权重模型，同时将好的工作流保留下来用于评估。

反事实监督微调（counterfactual supervised fine-tuning）使模型对误导性指导的鲁棒性大幅提升。基于结果的强化学习（outcome-based reinforcement learning）可以进一步引导模型更多地利用有帮助的工作流。

重要的是，这些模型在训练过程中从未见过好的工作流。它们的提升因此表明：训练能够塑造出一种更通用的策略，用于决定该在多大程度上信任外部指导。

超越工作流

这种行为并不局限于工作流。

在我们设定下训练的模型，在与其它形式的易出错外部信息交互时同样有所改善。我们在多智能体推理中观察到更好的同伴纠正（peer correction），在面对**被损坏的记忆（corrupted memory）**时也表现出更强的鲁棒性。

这些结果指向一种更广泛的能力：智能体不仅需要使用外部信息，还需要对自身对它的信赖程度加以调节。

迈向更可靠的智能体

大多数智能体评测只问一个问题：任务是否被解决。

Box2 Bench 额外提出了一个问题：

模型是否知道什么时候该听从指导？

随着智能体越来越多地基于工作流、记忆、工具以及其他智能体来运行，对易出错的外部信息进行有选择性的信赖，可能会成为可靠性的一个重要维度——而这一维度是单纯的性能指标所无法衡量的。

有时候，使用一个盒子的最好方式，就是知道什么时候该走出盒子。