内化未来:面向世界模型规划的统一智能体训练范式

arXiv cs.AI 论文

摘要

提出了一种三阶段训练范式,将世界模型规划内化到LLM智能体中,使其具备前瞻性决策能力。在搜索和数学推理任务上优于基线方法。

arXiv:2606.27483v1 Announce Type: new Abstract: 大语言模型(LLM)智能体在序列决策中展示了强大能力,但在长期任务中仍本质上是反应式的。与人类在决策前采用“假设推理”评估潜在计划不同,标准智能体缺乏用于模拟未来结果的内部世界模型。因此,我们提出通过训练单个自回归模型来内化前瞻性规划,该模型能够同时表达前瞻状态推演和基于计划的成功估计——即Q值的文本类比。关键的是,我们识别出一个格式-能力鸿沟:仅在训练后阶段对智能体进行前瞻轨迹的微调,会导致对前瞻的肤浅模仿,而缺乏真正的预测基础。为弥合这一鸿沟,我们引入了一种三阶段训练范式:(i) 世界模型代理中间训练(WM-AMT),向策略中注入潜在预测能力;(ii) 格式引发SFT(FE-SFT),对注入的能力进行结构化;(iii) 前瞻条件强化学习(FC-RL),优化生成模拟的校准和效用。在搜索和数学推理任务上的评估表明,我们的方法始终优于其他训练基线。我们的结果证明,LLM智能体中有效的内部世界建模需要以能力优先的训练流程,以实现有基础且校准的前瞻。
查看原文
查看缓存全文

缓存时间: 2026/06/29 05:27

# 内化未来:一种面向世界模型规划的统一智能体训练范式
来源:https://arxiv.org/abs/2606.27483
查看PDF (https://arxiv.org/pdf/2606.27483)

> 摘要:大型语言模型(LLM)智能体在序列决策中展现出强大能力,但在长期任务中仍具有根本性的被动特征。与人类在行动前使用"假设分析"推理评估潜在计划不同,标准智能体缺乏模拟未来结果的内在世界模型。为此,我们提出通过训练单一自回归模型来内化具有前瞻意识的规划——该模型既能表述预期的状态推演,也能输出基于计划的成功估计(即Q值的文本类比)。关键的是,我们识别出一个格式-能力差距:仅在后期训练中对智能体进行前瞻轨迹的微调,会导致前瞻行为的表面模仿,缺乏真正的预测基础。为弥合这一差距,我们引入三阶段训练范式:(i) 世界模型智能体中期训练(WM-AMT),向策略中注入潜在预测能力;(ii) 格式引导监督微调(FE-SFT),结构化组织已注入的能力;(iii) 前瞻条件强化学习(FC-RL),优化生成模拟的校准性和实用性。在搜索和数学推理任务上的评估表明,我们的方法始终优于其他训练基线。实验结果证明,在LLM智能体中实现有效的内在世界建模,需要采用能力优先的训练流程,以获得有根基且经过校准的前瞻能力。

## 提交历史

来自:Xuan Zhang [查看邮件 (https://arxiv.org/show-email/a2f10c0a/2606.27483)] **\[v1\]** 2026年6月25日星期四 19:05:44 UTC(19,366 KB)

相似文章

Agent-World:面向演进式通用智能体的现实世界环境合成扩展

Hugging Face Daily Papers

# 论文页面 - Agent-World: Scaling Real-World Environment Synthesis for Evolving General Agent Intelligence 来源:[https://huggingface.co/papers/2604.18292](https://huggingface.co/papers/2604.18292) 发布于 4 月 20 日 · 提交者[https://huggingface.co/dongguanting](https://huggingface.co/dongguanting) [![](https://cdn-avatars.huggingface.co/v1/production/uploads/61cd4b833dd34ba1985e0753/BfHfrwotoMESpXZOHiIe4.png)](https://huggingface.co/dongguanting) [KABI](https://huggingface.co/donggua

你认为World Models会通向AGI吗?

Reddit r/ArtificialInteligence

讨论World Models(通过学习内部环境表示来模拟物理和规划行动)是否能够克服类似LLMs的被动预测文本模型的局限性,从而通向AGI。