Paper page - Honest Lying: Understanding Memory Confabulation in Reflexive Agents

来源：https://huggingface.co/papers/2605.29463

摘要

依赖自生成反思的代理可能会存储自信但错误的任务解释，即使环境重置后仍会持续出错——这通过一个称为反思重复率的新指标得以识别。

Reflexion 式代理（https://huggingface.co/papers?q=Reflexion-style%20agents）依赖自生成反思（https://huggingface.co/papers?q=self-generated%20reflections）作为记忆，隐含假设代理能够准确诊断自身失败。我们证明这一假设可能系统性失效：在 ALFWorld 和 HumanEval 中，代理存储了自信但错误的任务解释，并在多次试验中持续基于这些解释行动，尽管每次环境都会重置为正确任务。我们将这种失败模式称为记忆虚构（https://huggingface.co/papers?q=memory%20confabulation），并引入反思重复率（Reflection Repetition Rate, RRR）（https://huggingface.co/papers?q=Reflection%20Repetition%20Rate）——一种基于日志的指标，用于检测对错误反思内容的重复依赖。通过 RRR，我们在 ALFWorld 中识别出 16 个冻结环境（其中 121 条反思均未提及正确目标对象），以及 HumanEval 中的 4 个类似案例。我们的缓解方法是用程序化提取轨迹级失败信号（https://huggingface.co/papers?q=trajectory-level%20failure%20signals）替代开放式自我诊断，将正确对象提及率从 0% 提升至 86%，RRR 从 0.64 降至 0.10，并成功解决了 16 个冻结 ALFWorld 环境中的 3 个——这表明反思记忆可能强化而非纠正错误信念。

查看 arXiv 页面（https://arxiv.org/abs/2605.29463）查看 PDF（https://arxiv.org/pdf/2605.29463）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2605.29463）

在你的代理中获取该论文：

hf papers read 2605.29463

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型0

未链接本论文的模型

在模型 README.md 中引用 arxiv.org/abs/2605.29463 即可从此页面链接。

引用本论文的数据集0

未链接本论文的数据集

在数据集 README.md 中引用 arxiv.org/abs/2605.29463 即可从此页面链接。

引用本论文的 Spaces0

未链接本论文的 Space

在 Space README.md 中引用 arxiv.org/abs/2605.29463 即可从此页面链接。

包含本论文的收藏集0

未包含本论文的收藏集

将本论文添加到收藏集（https://huggingface.co/new-collection）即可从此页面链接。