有效的解释支持不确定性下的规划

# 有效的解释支持在不确定性下的规划

来源: https://arxiv.org/html/2605.08406

Hanqi Zhou∗,1,2,3,4, Britt Besch5, Charley M\. Wu2,3,4 & Tobias Gerstenberg6
∗hanqi\.zhou@uni\-tuebingen\.de

1. 蒂宾根大学 (University of Tübingen)
2. 达姆施塔特工业大学 (Technical University Darmstadt)
3. Hessian\.AI
4. 马克斯·普朗克生物控制论研究所 (Max Planck Institute for Biological Cybernetics)
5. 剑桥大学 (University of Cambridge)
6. 斯坦福大学 (Stanford University)

###### 摘要

解释如何从 A 点到达 B 点可能充满挑战。这需要心理上模拟听众将根据所获信息采取的行动。为了捕捉这一过程，我们提出了一种计算模型，将话语转化为行动计划：大型语言模型将解释翻译为类似程序的指导（策略先验和价值映射），规划智能体在部分可观察性下执行这些指导。我们通过路径的效率和可靠性来评估解释的质量，并对重新规划进行惩罚。在四项预先注册的实验中，我们收集了涵盖 24 张地图的 1,200 条解释语料， elicited 有益性判断，测量了基线导航表现，并测试了不同质量解释下的行为表现。得分较高的解释被判定为更有益，并能改善导航效果：拥有解释的参与者优于没有解释的参与者，且高分解释比低分解释帮助更大。综合来看，这些结果表明，程序性解释是一种效用引导的沟通方式，其形态受到语言如何在不确定性下落地为行动的塑造。

关键词：解释；导航；规划；心理模拟；程序归纳

## 引言

人们 routinely 解释*如何*做某事：如何在校内找到一座建筑、如何组装家具，或如何排查设备故障。这类程序性解释很少是详尽无遗地描述所有可能的行动。相反，有效的解释会选择关键信息，并以一种使听众能够成功行动的方式进行结构化组织。从这一视角来看，程序性解释是旨在支持行动而非单纯改变信念的一类特殊解释。

现有工作通常强调此类解释在学习中的作用，即帮助听众推断生成观测数据的底层因果结构，从而将其知识泛化到新情境中\[18 (https://arxiv.org/html/2605.08406#bib.bib5), 19 (https://arxiv.org/html/2605.08406#bib.bib32), 17 (https://arxiv.org/html/2605.08406#bib.bib31), 4 (https://arxiv.org/html/2605.08406#bib.bib16)\]。然而，在许多日常场景中，核心功能是在约束条件下提供即时行动指导：听众的注意力和记忆有限，而说话者对解释将被使用的上下文存在不确定性。在这种观点下，解释的质量不仅由语义的充分性或完整性来衡量，还由其在帮助听众做出正确决策方面的语用价值来衡量。

这一视角与将沟通视为*效用引导的推理*\[23 (https://arxiv.org/html/2605.08406#bib.bib27), 14 (https://arxiv.org/html/2605.08406#bib.bib4), 参见\]的更广泛理论相一致。在格赖斯（Gricean）语用学中，说话者通过提供信息的同时遵守对话约束（例如，仅提供足够的信息）来合作\[13 (https://arxiv.org/html/2605.08406#bib.bib30), e\.g\., giving just enough information;\]。概率方法将这种话语选择建模为有限理性的：说话者在预期沟通成功与诸如话语长度或复杂性等成本之间进行权衡\[8 (https://arxiv.org/html/2605.08406#bib.bib2)\]。理性言语行为（RSA）框架通过将语言使用形式化为对说话者和听众心理状态的概率推理来实例化这一思想\[10 (https://arxiv.org/html/2605.08406#bib.bib29), 12 (https://arxiv.org/html/2605.08406#bib.bib28), 4 (https://arxiv.org/html/2605.08406#bib.bib16)\]。

作为补充，教学计算模型表明，教学目标改变了说话者选择传达的内容，听众也可以据此推断，从而产生区别于单纯行动或观察的听众行为\[22 (https://arxiv.org/html/2605.08406#bib.bib26), 2 (https://arxiv.org/html/2605.08406#bib.bib25), 5 (https://arxiv.org/html/2605.08406#bib.bib24), 25 (https://arxiv.org/html/2605.08406#bib.bib21)\]。因此，一个共同的主题是：沟通行为由其 intended recipient（预期接收者）的下游后果所塑造。

在这里，我们以导航为例进行研究。当一个人解释如何从 A 到 B 时，解释者了解环境，而听众必须基于话语加上局部观测来行动\[11 (https://arxiv.org/html/2605.08406#bib.bib20)\]。关于寻路的研究表明，说话者通过强调地标、决策点和层次结构，而非每一步骤，来适应这种不对称性\[21 (https://arxiv.org/html/2605.08406#bib.bib19), 9 (https://arxiv.org/html/2605.08406#bib.bib18), 3 (https://arxiv.org/html/2605.08406#bib.bib17)\]——这表明了一种规范性原则，即有效的解释分配信息以最小化预期的下游错误，而不是为了最大化描述的完整性。

> 图 1：建模语言引导的导航及实验流程。(a) 解释收集（实验 1）：具备环境完全知识的解释者为在部分可观察性下行动的被解释者生成自然语言解释。(b) 解释建模与选择：自由文本解释由 LLM 翻译为符号程序，并由基于该符号程序进行规划和行动的模拟智能体进行评估。该智能体的表现用于评估解释质量。(c) 解释评估：通过行为实验评估模型排名的解释，测量感知有益性（实验 2）、无解释下的基线表现（实验 3），以及在不同质量解释下的表现（实验 4）。

与此同时，导航是一个开放式的指令问题：环境可能很大，解释者可以用许多有效的方式描述路线。这种开放性激发了人们对大型语言模型（LLM）生成的*机器生成解释*的兴趣，它们可以即时产生流畅的指令\[15 (https://arxiv.org/html/2605.08406#bib.bib15), 20 (https://arxiv.org/html/2605.08406#bib.bib6)\]。然而，仅流畅是不够的——生成的解释可能在因果关系上是错误的，或者强调无助于听众行动的细枝末节，这促使人们从行为层面评估它们是否真正提高了表现。这为认知科学和人工智能研究语言如何在不确定性下落地为可执行行动提供了机会\[6 (https://arxiv.org/html/2605.08406#bib.bib23), 1 (https://arxiv.org/html/2605.08406#bib.bib8)\]，提出了一个核心问题：*什么使解释在指导行动方面有效*？

我们在一个受控的导航领域解决了这个问题，该领域隔离了部分可观察性下程序性解释的关键要素。一名**解释者**拥有环境和目标的全球知识，而一名**被解释者**基于解释和其局部观测进行导航。在四项实验中（图 1 (https://arxiv.org/html/2605.08406#Sx1.F1)），我们收集了人类编写的导航解释语料（实验 1），测量了感知有益性（实验 2），建立了无解释下的基线导航表现（实验 3），并测试了解释可用时对导航的影响（实验 4）。随后，我们评估了一个计算账户，其中解释者在被解释者成功的预期收益与沟通成本之间进行权衡。结合人们所说的（解释）、他们认为有益的（判断）以及他们所做的（导航结果），我们将程序性解释刻画为在不确定性和共享知识有限的情况下，进行行动和沟通的资源理性策略。

## 实验

所有四项实验均预先注册[^1]并在 Prolific 平台上进行。我们使用基于网格的“地牢”导航环境，包含 24 张不同的地图，分为 12 对近匹配对，仅通过小的局部编辑有所区别（参见图 2 (https://arxiv.org/html/2605.08406#Sx2.F2)a 中的示例）。每张地图都有一个起始位置和隐藏的目标（宝藏）。解释者看到完整地图，并撰写一条自然语言消息以引导伙伴找到宝藏。被解释者要么评估消息的有益性，要么在部分可观察性下进行导航，仅能看到当前位置周围的局部区域。

> 图 2：成对地图示例及解释质量的行为影响。(a) 示例地图对：整体布局匹配但具有小的局部变化（障碍物/结构）。(b) 每个地图对（列）在不同条件下（无、差、中、好）的路径长度（上）和有益性评分（下）。条形图显示均值 ± SE；点显示个别参与者。高质量的解释一致性地增加感知有益性，但路径长度的增益在各对中有所不同。

**实验 1：解释收集。** 为了收集解释数据集，我们招募了 $N=50$ 名参与者担任解释者（图 1 (https://arxiv.org/html/2605.08406#Sx1.F1)a ➀）。在每次试验中，解释者看到完整地图，并撰写自由文本消息以帮助伙伴找到宝藏。指示如下：“请向你的伙伴发送一条消息，帮助他们找到宝藏。记住，你的伙伴只能看到高亮区域——他们无法看到整个地图。” 每位参与者为随机呈现的 24 张地图撰写了解释。我们记录了解释文本和响应时间（平均完成时间 $25.64 \pm 11.70$ 分钟）。我们对自由格式的解释进行了最少的预处理（空白符规范化；无内容编辑）。

**实验 2：有益性判断。** 为了获取对实验 1 中生成的解释的有益性评分，我们招募了另一组 $N=50$ 名参与者。对于每张地图，我们根据基于模型的排名程序选择了三条解释（“好”、“中”、“差”）（图 1 (https://arxiv.org/html/2605.08406#Sx1.F1)c ➁）。参与者查看每张地图，并在“请评估以下消息，评分它们对于找到宝藏的有益程度”的指示下对每条消息的有益性进行评分。地图和消息均以随机顺序呈现（平均 $22.62 \pm 10.66$ 分钟）。我们预先注册了假设：参与者的有益性评分将反映基于模型的排名顺序（好 >> 中 >> 差）。

**实验 3：无解释下的基线导航。** 为了提供地图难度和地图间路径长度变异性的基线测量，我们招募了 $N=50$ 名参与者在部分可观察性下导航每张地图，指示为“尽可能用最少步骤找到宝藏”。界面揭示了当前位置周围的局部视野（图 1 (https://arxiv.org/html/2605.08406#Sx1.F1)c ➂）。我们记录了参与者的轨迹和完成时间（平均 $10.89 \pm 4.80$ 分钟）。

**实验 4：有解释下的导航。** 为了测试解释质量如何塑造导航效率，我们招募了 $N=150$ 名参与者在部分可观察性下导航每张地图（与实验 3 相同的指示），但同时接收每张地图的一条解释（图 1 (https://arxiv.org/html/2605.08406#Sx1.F1)c ➃，平均 $13.46 \pm 5.92$ 分钟）。解释质量（好/中/差）通过平衡列表在受试者内进行操纵，因此每位参与者在每种质量水平下看到的地图数量相等。我们预先注册的假设是：平均路径长度将遵循模型排名（好 < 中：$t(49)=13.25, p<.001, d=1.86$；中 > 差：$t(49)=18.48, p<.001, d=2.59$）。带有有序质量（差=0, 中=1, 好=2）和参与者及地图随机截距的贝叶斯线性混合效应模型证实了这种单调增加（$\beta=17.87$, 95% CI $[17.02, 18.74]$）：预测能帮助部分知情听众的解释被一致地判定为更有益。

> 图 4：模型比较与组件消融。(a) 点显示参与者根据完整模型效用评分的有益性评分；线条显示预测-主观有益性回归。(b) 留一组件消融。条形图显示似然比 $\chi^2$ 统计量相对于完整模型；较大的值表示拟合度损失更大。虚线标记 $p=.05$ 阈值；高于此线的条形表示移除预测变量后拟合度显著损失。

**高质量解释产生更高效的导航。** 我们测试了导航效率是否随解释质量而变化。与无解释试验相比，提供解释总体上显著缩短了路径长度（$\beta=-7.73$, 95% CI $[-9.05, -6.12]$），表明即使在部分可观察性下，不完美的指导也有帮助。在有解释的试验中，我们拟合了一个贝叶斯混合效应模型，将解释质量作为序数评分（差=0, 中=1, 好=2）输入，并为参与者和地图设置随机截距。高质量解释预测了更短的路径（$\beta=-3.65$, 95% CI $[-4.25, -3.00]$）。

### 计算模型评估

接下来，我们评估完整效用模型是否比更简单的替代方案更好地预测人类的有益性判断。我们通过模拟部分知情的听众如何将解释转化为可执行的指导然后行动来对解释进行评分。我们将完整效用模型与两个变体进行比较：

*   **仅长度（Length-only）：** 作为一种简单的处理启发式，我们通过负词数对解释进行评分，$U_{\textsc{Len}}(e) \propto -\textsc{Len}(e)$。
*   **直接行动（非程序）（Direct-action (non-program)）：** 为了测试显式的类似程序的中间表示是否必要，我们提示 LLM 直接从当前观测和解释输出智能体的下一个行动，没有显式的策略和价值表示，也没有重新规划循环。我们在每张地图上进行 $N$ 次尝试评估每条解释，并使用成功率和路径长度（失败时封顶）进行评分，但*没有*重新规划成本：$U_{\textsc{Direct}}(e,w) := \delta \textsc{Succ}(e,w) - \alpha \mathbb{E}[L(e,w)]$，其中在所有模型中固定 $\alpha, \delta \geq 0$。

**分析什么构成好解释。** 为了具有可比性，我们将每个模型的评分归一化到 $[0,1]$ 范围内，并仅分析被参与者评分的解释。然后我们拟合了一个混合效应回归，预测有益性，同时将完整模型的效用评分、仅长度评分和直接行动评分作为自变量输入，并为参与者和地图设置随机截距。效用评分独特地预测了更高的有益性，$\beta_{\textsc{Util}}=38.47$, 95% CI=$[36.24, 40.17]$。相比之下，仅长度和直接行动预测变量较弱（$\beta_{\textsc{Len}}=.85$, 95% CI=$[-1.23, 2.94]$；$\beta_{\textsc{Direct}}=.08$, 95% CI=$[-2.10, 2.28]$）。图 4 (https://arxiv.org/html/2605.08406#Sx4.F4)a 显示了有益性作为效用的函数，联合模型中的偏回归线将其他预测变量保持在其均值处。总体而言，有益性不仅仅反映简洁性：参与者偏好那些效用模型预测将支持可靠且有效行动的解释。

---
[^1]: 参见完整材料：github\.com/cicl\-stanford/explaining\_how\_cogsci26 (https://github.com/cicl-stanford/explaining_how_cogsci26)