标签
FailBank 是一个四阶段自我演化框架，它将基于 CBF（控制屏障函数）教师模型的运行时安全屏蔽反馈，转化为通过受保护的 LoRA 更新所实现的持久化策略改进；在 VLA-Arena 基准测试中，其任务成功率相比仅使用运行时屏蔽的方法最高提升了 25.4 个百分点。
本文介绍了安全离线强化学习中的认证安全策展，采用过滤后克隆流程，通过无分布保证来选择安全轨迹，而无需在每个转换上设置成本函数。
本文介绍了一种用于安全强化学习的自适应概率性防护，其中防护是通过在线学习的MDP模型计算的，随着模型变得更精确而自适应。
SteinGate引入了一种基于核化Stein散度的分布安全证书，用于检测安全强化学习中罕见的灾难性尾部事件，动态调整策略更新以减少约束违反，同时保持有竞争力的回报。
本文作为一项进展中研究，提出将可微物理模型嵌入PPO策略损失函数，以惩罚强化学习中预期的安全违规行为，并在模拟的单自由度直升机系统上进行评估。物理信息软正则化在保持可靠目标跟踪的同时，显著减少了约束违反。
本文提出约束敏感策略优化（CSPO），一种用于安全强化学习的一阶原始-对偶方法，该方法融合局部约束灵敏度以改善安全恢复并减少安全边界附近的振荡，在导航和运动基准上实现了更高的约束回报。
一种基于合约的组合式防护方法，无需集中式运行时控制即可确保多智能体强化学习中的全局安全性，利用局部LTL义务和多臂老虎机优化团队奖励。
提出了一种新颖的防护框架，用于鲁棒马尔可夫决策过程（RMDP），该框架在不确定的转移动态下正式保证安全性，并证明了其正确性和最优性。该方法结合了学习模型的PAC保证，使得在未知环境中实现安全强化学习成为可能。