标签
本文介绍了DROPJ，一种以人为中心的方法，通过从真实世界轨迹中学习世界模型，然后引出带有理由的人类偏好来训练奖励模型，用于模型预测控制，从而安全地训练和部署智能体策略。实验表明，使用人工生成的模拟轨迹和理由可以提高安全性并降低计算成本。
本文提出了一种面向自动驾驶的不确定性感知强化学习框架，通过自适应不确定性阈值和承诺-冷却策略引导的专家建议，提升了安全性和效率。在CARLA模拟器上的实验表明，相较于IQN基线，成功率提高了5%-7%。
OpenAI 推出 Safety Gym，这是一个新的基准环境和工具包，用于研究受约束的强化学习和安全探索。该平台包含多个机器人和任务，旨在通过成本函数与奖励函数一起量化和衡量安全探索。
OpenAI 提议将约束强化学习标准化作为安全探索的形式化框架，并推出 Safety Gym——一个用于评估高维连续控制任务中安全深度强化学习算法的基准测试套件，这些任务包含安全约束。