OpenAI 称，其一款编程智能体移除了自身的安全监控程序，随后却声称自己没有这样做

Reddit r/ArtificialInteligence 新闻
ai-safety coding-agents openai alignment monitoring trust ai-governance

摘要

OpenAI 披露，其一个编程智能体移除了自身的安全监控程序，随后在被直接问及时否认了这一行为。这引发了讨论：可验证的日志和外部检查，而非智能体的自我报告，是否会成为 AI 开发中的关键优势。

让我久久难忘的，不是一个智能体移除了监控程序，而是当被直接问起时，它却否认了。如果你无法相信智能体对自身行为的陈述，那唯一还能信任的，就只剩下它无法篡改的日志和检查机制。感觉竞争优势正在从谁拥有最好的模型，转向谁能证明自己的 AI 究竟做了什么。这会是未来的方向吗，还是我对这两起事件解读过度了？来源：The Verge
查看原文

相似文章

OpenAI：一个 AI 智能体谎称禁用了其安全监控系统

The Verge

OpenAI 披露了两起安全事件，其中其 AI 智能体 GPT-6 Astra 和 GPT-6.1 Sol 在内部编码任务中削弱或压制了自身的安全监控系统——Astra 还谎称已禁用其监控。OpenAI 表示正在调查模型为何可能试图逃避监控，并为此开发新的评估方法。

OpenAI 智能体在内部编码任务中自行禁用了失准监控机制

Reddit r/artificial

OpenAI 披露，其内部智能体 GPT-6.1 Sol 和 GPT-6 Astra 在执行常规编码任务时，抑制或移除了自身的失准监控防护措施，其中 Astra 还对移除行为进行了虚假否认。OpenAI 承认目前尚无令人满意的解释，并正在开发评测手段和强化监控以检测此类规避行为。