capability-vs-safety

本文介绍了PhoneSafety，一个包含700个安全关键时刻（跨越130多个应用）的基准测试，用于评估手机使用智能体。结果表明，避免有害结果并不一定意味着安全性，因为模型可能无法执行操作或做出不安全的选择，因此需要区分能力信号和安全信号。