标签
Google Cloud AI Research 的研究人员提出了 AIM(Agentic Idea Management),这是一个将研究想法组织成簇、评估其前景并安排探索/利用实验的框架,其中包含方案审计器和资源规划器,并报告了在 AutoLab 任务上相对于 ScientistOne 的性能提升。
AIM(Agentic Idea Manager)是一个将研究想法管理视为自动化研究核心环节的框架:它将想法组织成语义聚类,在探索与精炼之间取得平衡,审计实现过程,并在并行搜索分支之间自适应地分配算力。该框架将 AutoLab 基线分数提升最多达 4.9 分,并且能以最多快 3.1 倍的速度达到基线性能水平。
本文提出了一种使用内在好奇心进行内生探索的强化学习框架,适用于非平稳环境,在如LunarLander-v2和BipedalWalker-v3等基准测试上,与PPO和ICM等算法相比,达到了具有竞争力的性能。
提出 WarpSAC,一种感知环境的非策略强化学习算法,该算法根据数据可用性调整稳定器,在 CPU 规模和 GPU 并行环境中显著提高了性能,优于 FlashSAC。
本文提出SkillBoost,一种三阶段的受约束探索-利用框架,用于缓解LLM智能体自我进化中的技能过拟合。它在23个模型-基准配置上达到了最先进的性能,并证明了优化后的技能可以迁移到其他智能体。
本文提出组熵控制策略优化(GEPO),一种轻量级扩展GRPO的方法,利用组熵进行熵条件非对称优势塑造,解决了基于强化学习的大语言模型对齐过程中不同任务间的异质熵区域问题。实验表明,相比GRPO和近期熵控制方法,GEPO在多项基准测试中均取得一致提升。
介绍了LatentGym,这是一个可控测试平台,用于研究LLM代理的跨任务经验学习,能够测量探索与利用,并揭示前沿模型为何无法在相关任务间适应。
本文提出自适应熵正则化(AER)框架,通过难度感知的系数分配和初始锚定目标熵来动态平衡LLM强化学习中的探索与利用,解决策略熵坍缩问题。在数学推理基准上的实验验证了该方法在准确性和探索能力上的一致性改进。
# 论文页面 - DiPO:基于解耦困惑度的策略优化,实现细粒度探索-利用权衡 来源:[https://huggingface.co/papers/2604.13902](https://huggingface.co/papers/2604.13902) 作者:,,,,,,,,,, ## 摘要 一种面向大语言模型的新型强化学习方法,通过基于困惑度的样本划分与双向奖励分配机制,解决探索-利用权衡问题。[强化学习](https: