投影潜在强化学习动作:迈向通用的、可扩展的图组合优化
摘要
本文介绍了用于图组合优化的投影智能体,采用强化学习和图神经网络,在连续动作嵌入空间中运行,以提升泛化能力和可扩展性,并发布了LaGCO-RL库。
arXiv:2605.19721v1 公告类型:新
摘要:图组合优化(GCO)日益受到关注,因为许多NP难问题自然可以表示为图的形式,但其组合爆炸使得精确方法在计算上难以处理。近期强化学习(RL)与图神经网络(GNN)的结合显著改进了基于学习的GCO求解器。然而,现有方法在跨不同图实例的泛化能力以及随着动作空间增长的计算可扩展性方面存在局限性。为应对这两项挑战,我们引入了投影智能体,这是一种新颖的RL-GCO方法,它直接在连续的基于GNN的动作嵌入空间中运行,通过单次前向传播预测期望的潜在动作,随后将其解码为有效的离散动作。此外,通过共享的观测和动作嵌入空间,我们实现了RL方法之间的公平比较。在多个基准测试中,我们的方法仅使用简单的最近邻解码,推理速度比现有解决方案快达16.2倍,泛化能力提升高达40%,同时为具有多个相互依赖变量的超线性决策空间中实现强大的RL性能打开了大门。最后,我们发布了LaGCO-RL,一个自动构建潜在动作空间并支持现有RL-GCO解决方案的Python库,促进了可复现性及对新GCO基准的适应。
相似文章
GRLO:从零开始迈向开放环境下的通用强化学习
GRLO 提出了一种新颖的强化学习后训练方法,仅使用 5000 条提示和 22.7 GPU 小时,就在多个领域(数学、代码等)实现了强大的泛化能力,在效率和数据需求上显著优于领域内的 RLVR 基线。
RL^2-VLA:面向视觉-语言-动作模型的自适应强化学习潜在组合引导与测试时缩放
本文介绍了RL^2,一种用于视觉-语言-动作模型的自适应推理时引导框架,它利用潜在表示上的离线强化学习来组合动作流,并且仅在预测到失败时激活引导。在SIMPLER和PolaRiS基准上,它实现了最高+17.3%的成功率提升,并展示了真实世界的迁移能力。
GCPO:诊断并约束大语言模型Rollout强化学习中的子空间几何
本文提出GCPO,一种用于诊断和约束基于rollout的大语言模型强化学习中的子空间几何的方法,在推理、编程和工具使用任务上相较于GRPO及其变体提升了稳定性和性能。
GraphPO:面向推理模型的基于图策略优化
GraphPO 是一种新颖的基于图的强化学习框架,它将轨迹表示为一个有向无环图,合并语义等价的推理路径,以减少冗余探索并改进大型推理模型的信用分配。
多时间尺度隐式动作深度强化学习在边缘-云网络中的联合优化
提出了一种具有隐式动作空间的双时间尺度多层深度强化学习框架,用于分层边缘-云计算中的联合服务放置、计算委托和功率控制,实现高达20.8%的延迟降低和13%的资源利用率提升。