标签
本文介绍了DROPJ，一种以人为中心的方法，通过从真实世界轨迹中学习世界模型，然后引出带有理由的人类偏好来训练奖励模型，用于模型预测控制，从而安全地训练和部署智能体策略。实验表明，使用人工生成的模拟轨迹和理由可以提高安全性并降低计算成本。
安全探索者（SafeExplorer）引入了一种用于带有恢复干预的强化学习的无偏策略梯度估计器，在机器人任务上显著减少了训练期间的跌倒次数，同时达到或超过了标准PPO的最终奖励。
本文提出 AutoSafe，一种面向安全在线强化学习的安全感知策略架构，将结构化的安全监控与干预直接集成到动作生成中，实现性能和安全性行为之间平滑的、依赖于风险的过渡，在基准测试和物理 cart-pole 系统上得到了验证。
本文提出了一种用于自动驾驶高速公路车道变换的安全迁移强化学习框架，采用自适应教师干预和奖励塑造来提高样本效率和安全性。实验表明，与基线相比，安全性提升超过52%，效率提升5%。
TRIDENT是一种新颖的多智能体强化学习框架，打破了混合离散-连续动作、硬安全约束和物理支配动力学之间的耦合，实现了可证明安全的协调，保证了收敛到约束纳什均衡，并显著减少了训练期间的违规行为。
本文提出VLM-Safe-RL框架，该框架将冻结的视觉语言模型集成到约束MDP的拉格朗日更新中，为高速视觉控制任务的安全强化学习提供预测性成本信号。该方法在Safety-Gymnasium FormulaOne L2上优于标准约束感知基线，并能泛化到未见过的环境。
提出LILAC+框架，用于非平稳环境下的安全持续强化学习，该框架采用三种自适应安全机制：基于上下文的安全约束、适应速度约束和预算到状态的安全执行。在模拟驾驶环境中的评估表明，在分布偏移下，该框架减少了安全违规，同时保持了竞争性的性能。
本文提出了动作条件风险门控（Action-Conditioned Risk Gating），一种用于部分可观测下风险敏感控制的轻量级强化学习方法，该方法利用紧凑的有限历史代理状态和基于动作条件的近期风险预测器来平衡安全性和性能。
本文提出了一种框架（CARE），该框架在逐点李雅普诺夫安全护罩下联合学习控制输入和通信高效的定时决策，在倒立摆、小车-杆系统和平面四旋翼飞行器上实现了比经典方法更高的采样间隔。