@samsja19: 非常激动人心的工作，旨在弥合强化学习与中期/预训练之间的差距。你可以从环境中学习，超越奖励信号……

X AI KOLs Following 论文
reinforcement-learning pre-training world-modeling agentic-actions tool-calling next-token-prediction echo

摘要

一种名为ECHO的新方法通过在使用工具调用输出上进行下一个词预测，从环境中学习超越奖励信号，将世界建模与代理行为相结合，从而弥合了强化学习与预训练之间的差距。

非常激动人心的工作，旨在弥合强化学习与中期/预训练之间的差距。 你可以从环境中学习超越奖励信号，通过对某些工具调用输出进行下一个词预测。
查看原文
查看缓存全文

缓存时间: 2026/06/12 04:51

非常激动人心的研究，填补了强化学习与预训练/中间训练之间的空白。

你可以通过对自己工具调用输出进行下一个词元预测，从环境中学习超越奖励信号的内容。

Prime Intellect（@PrimeIntellect）： 真正的智能体是对世界进行建模的。

目前的训练没有将智能体与环境区分开：预训练仅训练世界建模，强化学习仅训练智能体行动。我们通过 @DimitrisPapail 和 @VaishShrivas 的 ECHO 方法将两者结合起来。

相似文章

ExpRL：面向LLM中期训练的探索式强化学习

Hugging Face Daily Papers

ExpRL是一种新的基于强化学习的中期训练方法，它使用人工编写的参考答案作为密集奖励支架（从未向策略展示），从而提升LLM推理能力，在AIME-2026等困难数学基准上取得了显著提升。