论文页面 - Memento 3：通过反思性规则手册实现基于模型的递归自我改进

Source: https://huggingface.co/papers/2610.11794

发布于 10 月 8 日

·

提交者 https://huggingface.co/HaoyuZhao

https://huggingface.co/HaoyuZhao

Hyzhao (https://huggingface.co/HaoyuZhao) 于 10 月 9 日

摘要

在陌生环境中学会行动需要智能体推断世界的运作方式，并在新证据到来时修正这种理解。然而，有限的观察可能支持多种世界模型——它们都能解释过往交互，但在未见状态下的预测结果却各不相同。我们提出了 Memento 3，基于 Memento 系列的框架，使冻结的 LLM 智能体能够通过外部记忆持续学习显式的世界模型。智能体维护一本自然语言规则手册作为持久的语义记忆，记录关于环境动态的可修正假设，同时对未知部分保持不完全指定。它将这本规则手册编译为可执行代码，用于预测和规划。通过“观察 → 反思 → 规则修订 → 编译 → 验证“的持续循环，智能体利用预测误差同时改进规则手册及其代码。只有当 LLM 判定更新后的代码忠实地反映了规则手册，且逐单元格精确重放能够复现观察到的状态转移时，更新后的代码才会被接受。我们将这一过程作为一种基于模型的递归自我改进（RSI）路径来研究：智能体自主探索环境、修正其世界模型，并利用经过验证的更新来指导后续的交互和学习，而底层 LLM 始终保持冻结。一个群体扩展方案并行维护多个世界模型，共享交互证据，并利用它们的预测来引导探索。在 ARC-AGI-3 上，单模型智能体通关了全部 25 个公开游戏的每一关，平均相对人类动作效率（RHAE）达到 100.0，仅使用了人类动作数量的 44%。在一个 Atari Pong 案例研究中，一个习得的反馈控制器在三种不同开局的评估回合中均以 21:0 获胜，且无需额外调用 LLM。

查看 arXiv 页面 (https://arxiv.org/abs/2610.11794) · 查看 PDF (https://arxiv.org/pdf/2610.11794) · 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.11794)

在你的智能体中获取此论文：

hf papers read 2610.11794

没有最新版 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

暂无模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2610.11794 即可从本页面链接。

引用此论文的数据集 0

暂无数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.11794 即可从本页面链接。

引用此论文的 Space 0

暂无 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2610.11794 即可从本页面链接。

包含此论文的合集 0

暂无合集包含此论文

将此论文添加到合集即可从本页面链接。