标签
本文揭示了自我改进型大语言模型智能体中的验收关卡如何悄然侵蚀冗余安全防护措施（“掩蔽式侵蚀”）：由于其他仍在发挥作用的防护措施的掩盖，被删除的防护措施未被察觉。本文还表明，在强模型下优化的运行框架，即使保留逐字不变的安全规则，在较弱模型下也可能出现安全失效。