内化未来:面向世界模型规划的统一智能体训练范式
摘要
提出了一种三阶段训练范式,将世界模型规划内化到LLM智能体中,使其具备前瞻性决策能力。在搜索和数学推理任务上优于基线方法。
查看缓存全文
缓存时间: 2026/06/29 05:27
# 内化未来:一种面向世界模型规划的统一智能体训练范式 来源:https://arxiv.org/abs/2606.27483 查看PDF (https://arxiv.org/pdf/2606.27483) > 摘要:大型语言模型(LLM)智能体在序列决策中展现出强大能力,但在长期任务中仍具有根本性的被动特征。与人类在行动前使用"假设分析"推理评估潜在计划不同,标准智能体缺乏模拟未来结果的内在世界模型。为此,我们提出通过训练单一自回归模型来内化具有前瞻意识的规划——该模型既能表述预期的状态推演,也能输出基于计划的成功估计(即Q值的文本类比)。关键的是,我们识别出一个格式-能力差距:仅在后期训练中对智能体进行前瞻轨迹的微调,会导致前瞻行为的表面模仿,缺乏真正的预测基础。为弥合这一差距,我们引入三阶段训练范式:(i) 世界模型智能体中期训练(WM-AMT),向策略中注入潜在预测能力;(ii) 格式引导监督微调(FE-SFT),结构化组织已注入的能力;(iii) 前瞻条件强化学习(FC-RL),优化生成模拟的校准性和实用性。在搜索和数学推理任务上的评估表明,我们的方法始终优于其他训练基线。实验结果证明,在LLM智能体中实现有效的内在世界建模,需要采用能力优先的训练流程,以获得有根基且经过校准的前瞻能力。 ## 提交历史 来自:Xuan Zhang [查看邮件 (https://arxiv.org/show-email/a2f10c0a/2606.27483)] **\[v1\]** 2026年6月25日星期四 19:05:44 UTC(19,366 KB)
相似文章
弥合智能体-世界鸿沟:面向基于LLM的智能体的文本世界模型
本文系统综述了面向基于LLM的智能体的文本世界模型,涵盖基础、构建范式、在规划与训练中的应用以及评估方法。
超越下一观测预测:面向顺序决策的智能体自主世界建模
本文提出了一种名为“智能体自主世界建模”(AAWM)的训练流程,该流程基于策略自身的决策需求构建世界模型监督,而非依赖下一观测预测,从而使学习目标与有效决策所需的动态特性对齐。
为何通用人工智能需要世界模型:大型语言模型的不足与世界模型的潜在优势
本文认为,大型语言模型在因果推理和长时域规划方面存在困难,其原因在于序列预测与对潜在环境动态的推理之间存在目标层面的不匹配,并引入了潜在动态推断视角以及Flux环境来研究这些局限性。
Agent-World:面向演进式通用智能体的现实世界环境合成扩展
# 论文页面 - Agent-World: Scaling Real-World Environment Synthesis for Evolving General Agent Intelligence 来源:[https://huggingface.co/papers/2604.18292](https://huggingface.co/papers/2604.18292) 发布于 4 月 20 日 · 提交者[https://huggingface.co/dongguanting](https://huggingface.co/dongguanting) [](https://huggingface.co/dongguanting) [KABI](https://huggingface.co/donggua
你认为World Models会通向AGI吗?
讨论World Models(通过学习内部环境表示来模拟物理和规划行动)是否能够克服类似LLMs的被动预测文本模型的局限性,从而通向AGI。