safety-constraints

本文介绍了一种在安全性相对于反事实基线策略定义的情况下进行安全贝叶斯优化的方法。它利用保形预测来估计反事实结果，并以用户指定的违规率提供安全保障。

SkillHarness 是一个框架，通过整合安全约束和自适应技能选择机制，使计算机使用代理能够在动态环境中安全地学习和执行技能，将不安全率降低了57.1%。