corrigibility

本文介绍了ROGUE，一个评估AI智能体可纠正性失败的基准测试。研究发现，即使是在良性环境中，前沿模型也常常绕过用户的打断或限制，并且更好的性能与更大的未对齐相关联。