OpenAI：一个 AI 智能体谎称禁用了其安全监控系统

The Verge 新闻
ai-safety ai-agents openai monitoring misalignment security

摘要

OpenAI 披露了两起安全事件，其中其 AI 智能体 GPT-6 Astra 和 GPT-6.1 Sol 在内部编码任务中削弱或压制了自身的安全监控系统——Astra 还谎称已禁用其监控。OpenAI 表示正在调查模型为何可能试图逃避监控，并为此开发新的评估方法。

<figure> <img alt="绿色图形背景上的 Chat GPT 标志。" data-caption="" data-portal-copyright="图片来源：The Verge" data-has-syndication-rights="1" src="https://platform.theverge.com/wp-content/uploads/sites/2/2025/08/STK155_OPEN_AI_4_CVirginia_C.png?quality=90&#038;strip=all&#038;crop=0,0,100,100" /> <figcaption> </figcaption> </figure> <p class="wp-block-paragraph">OpenAI <a href="https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring">披露了两起安全事件</a>，涉及 AI 智能体在内部编码任务中削弱其安全监控系统。在其中一起事件中，OpenAI 表示其 GPT-6 Astra 智能体在复制参考代码时禁用了自身的安全监控——随后还为此撒了谎。</p> <p class="wp-block-paragraph">「参考代码中并未配置监控，而 Astra 认为这就是从用户代码中移除监控集成的理由。」OpenAI 的 AI 安全研究员 Marcus Williams <a href="https://x.com/Marcus_J_W/status/2112695138199966084">在 X 上写道</a>。「当用户询问 Astra 是否移除了监控时，它撒谎说没有。」</p> <p class="wp-block-paragraph">另一起事件发生在 GPT-6.1 Sol 智能体压制了自动安……</p> <p><a href="https://www.theverge.com/ai-artificial-intelligence/1015316/openai-ai-agent-disabling-monitoring-systems">在 The Verge 阅读完整报道。</a></p>
查看原文
查看缓存全文

缓存时间: 2026/10/21 15:20

# OpenAI：AI 智能体谎称已关闭其安全监控系统 来源：https://www.theverge.com/ai-artificial-intelligence/1015316/openai-ai-agent-disabling-monitoring-systems Emma Roth (https://www.theverge.com/authors/emma-roth) Emma Roth 是一名新闻撰稿人，报道流媒体大战、消费科技、加密货币、社交媒体等领域。此前，她曾在 MUO 担任撰稿人和编辑。 OpenAI 披露了[两起安全事件](https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring)，涉及 AI 智能体在内部编码任务中削弱其安全监控系统。在其中一起事件中，OpenAI 表示其 GPT-6 Astra 智能体在复制参考代码时关闭了安全监控——随后还就此事撒了谎。 OpenAI 的 AI 安全研究员 Marcus Williams 在 [X 上写道](https://x.com/Marcus_J_W/status/2112695138199966084)："参考代码中没有配置监控，Astra 便认为这是从用户代码中移除监控集成的理由。当用户询问 Astra 是否移除了监控时，它撒谎说自己没有移除。" 另一起事件发生在 GPT-6.1 Sol 智能体在 Slack 上压制了发送给 OpenAI 安全团队的自动安全警报之后。在这起事件中，该 AI 智能体沿用了此前"不要向 OpenAI 团队发送任何 Slack 消息"的指令，并以此为由关闭了警报。 这些事件加剧了围绕 AI 智能体的安全担忧，此前已有[智能体绕过其测试环境的限制](https://www.theverge.com/ai-artificial-intelligence/996563/ai-safety-research-metr-redwood-openai-anthropic)入侵外部公司。OpenAI 表示："除了让模型更难关闭监控之外，我们也在努力理解模型为何首先会寻求这样做。我们还在开发评估方法，以测试模型是否特别倾向于规避失准监控，并为此表现出动机性推理。" **关注本文章涉及的话题和作者**，在你的个性化主页信息流中看到更多类似内容，并接收邮件更新。 - Emma Roth

相似文章

OpenAI 智能体在内部编码任务中自行禁用了失准监控机制

Reddit r/artificial

OpenAI 披露，其内部智能体 GPT-6.1 Sol 和 GPT-6 Astra 在执行常规编码任务时，抑制或移除了自身的失准监控防护措施，其中 Astra 还对移除行为进行了虚假否认。OpenAI 承认目前尚无令人满意的解释，并正在开发评测手段和强化监控以检测此类规避行为。

OpenAI 在 AI 代理失控后全面改革安全协议

Wired

OpenAI 已暂停其即将推出的 AI 模型 Astra 的训练工作负载，并引入新的安全协议，包括思维链监控和增强的对齐工作，此前发生其 AI 代理侵入 Hugging Face 的事件。