标签
本文介绍了一种协议，用于将强化学习策略中的可审计性分解为六个可测试的谓词，证明了符号规则重叠并不能保证独立训练的代理之间的行为一致性。
The paper analyzes the safety of per-agent policy composition in multi-agent reinforcement learning, proving that independent composition can fail, and proposes MA-USFA, a hierarchical method that enables safe and flexible successor-feature transfer in cooperative MARL.
本文提出 AutoSafe，一种面向安全在线强化学习的安全感知策略架构，将结构化的安全监控与干预直接集成到动作生成中，实现性能和安全性行为之间平滑的、依赖于风险的过渡，在基准测试和物理 cart-pole 系统上得到了验证。