标签
该论文系统研究了LLM规划智能体在部分可观测环境中的计划承诺长度问题,比较了激进式与保守式策略在安全性与效率之间的权衡,并提出可调的混合策略。
本文提出将复值酉递归网络(uRNNs)作为递归 PPO 架构的即插即用替代方案,利用受量子态测量启发的保相位动力学来应对部分可观测性问题。作者报告称,在 rocksample 和 Craftax 等可通过记忆改进的任务上,其方法的奖励最高可达基线的 3 倍,代码已公开发布。
本文提出一种风险规避的在线POMDP规划方法,在每一步对信念上的即时成本应用CVaR,同时保留标准的期望累计回报目标,从而可复用现有的基于期望的规划器。作者证明了策略评估、稀疏采样以及粒子信念MDP代理与原始POMDP之间差距界的有限时间保证,并在风险中性极限下退化为标准规划。
本文提出了 HIDE——一个用于评估部分可观测条件下操作任务记忆能力的基准,以及 SEEK——一个融合三种记忆机制的框架,该框架在仿真和真实机器人操作实验中均提升了任务成功率。
本文通过信息论方法和实验验证,刻画了在部分可观测条件下模仿专家所需的最小递归行为记忆。
本文提出SIHA,一种在多智能体系统中,当智能体隐藏时推断交互结构的方法,结合结构无关初始化与迭代优化,以改进结构推断和轨迹重建。
本文提出了信念状态引擎(Belief-State Engine),一个在隐藏状态上维持贝叶斯后验的推理模块,用于增强LLM代理在部分可观测性下的原理性规划,展示了任务性能和决策一致性的提升。
本文介绍了反事实隐世界模型(CLWM),用于解决世界模型中的反事实坍缩问题,通过对比目标提高部分可观测性下具身推理的规划成功率。
本文提出基于信念的世界模型(BB-WMs),旨在通过直接访问关于不确定状态的信念,提升LLM智能体在部分可观测环境中的决策性能,并展示任务表现的改善。
本文提出了一种用于部分可观察不休止赌博机中Whittle指数的t步前瞻阈值策略,证明了向精确指数的几何收敛并提高了数值精度。
NeSyFS是一个面向部分可观测环境下LLM智能体的神经符号框架,利用知识图谱表示信念状态,结合快慢思考与不确定性感知规划及反思机制,在ALFWorld、Webshop和ScienceWorld上取得了显著效果。
本文提出了一种面向部分可观测强化学习中时序知识图谱记忆的神经符号元策略,结合基于RDF的图表示与符号记忆管理启发式方法,实现了可检查且自适应的控制。
本文研究了一种随机线性赌博机问题,其中智能体仅能观测到动作坐标的随机子集,证明了当动作具有低本征维度时可以实现次线性遗憾,并提出了一种具有理论保证的TOFU-POV算法。
本文形式化了部分可观测条件下LLM智能体的协商协作,引入了一个跨多个领域的可扩展基准,并系统评估了代表性LLM,发现复杂任务仍然具有挑战性,而协商能够实现错误纠正。
本文提出ASK+,一种在部分可观测环境(POMDP)中利用小型语言模型(SLM)对强化学习智能体进行不确定性门控辅助的方法。通过提供轨迹感知上下文和结构化思维链推理,ASK+显著提升了基准方法的成功率,证明提示设计和选择性门控对模型规模具有主导作用。
DeepMind的TacticAI,一个分析足球战术的系统,发表在《自然·通讯》上,由于它处理部分可观测性和多模态数据,在机器人技术和电脑游戏中具有潜在应用。
本文研究具有二元隐状态和非完美二元反馈的非平稳多臂老虎机,开发了一个基于部分守恒定律(PCL)的框架,用于建立可索引性并计算Whittle索引,并应用于机会频谱接入。
本文将癌症治疗建模为使用主动推理的信念空间规划问题,推导出一个预期自由能目标,该目标在测量预算约束下统一了目标导向控制与信息获取。该框架在AACR Project GENIE的真实临床数据上得到验证,展示了同时进行患者分类与高治疗疗效的能力。
本文介绍了一个具有时间扩展反馈的双边匹配框架,将其建模为部分可观测的马尔可夫博弈,包含昂贵筛选、噪声观测和动态变化的潜在特征。作者提出了多智能体强化学习基准Learn2Match,并展示了独立PPO在社会福利方面优于bandit基线,但信息摩擦损失更高。
SpatialWorld是一个统一的基准测试,用于评估多模态智能体在各种真实世界任务中的交互式空间推理能力。结果表明,即使是最强大的模型,其任务成功率也很低。