OpenAI 帮助:Lockdown Mode

Simon Willison's Blog 产品

摘要

OpenAI 已为 ChatGPT 推出了 Lockdown Mode,通过限制出站网络请求来防止因提示注入攻击导致的数据泄露。该功能正在向符合条件的账户(包括 Free、Plus、Pro 和自助服务 Business 用户)推出。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/06/08 03:32

# OpenAI 帮助:锁定模式 来源:https://simonwillison.net/2026/Jun/5/openai-help-lockdown-mode/ 2026年6月5日 - 链接博客 **OpenAI 帮助:锁定模式 (https://help.openai.com/en/articles/20001061-lockdown-mode)**。OpenAI 于今年2月首次预告了该功能 (https://openai.com/index/introducing-lockdown-mode-and-elevated-risk-labels-in-chatgpt/) ,但现已上线并“向符合条件的个人账户(包括 Free、Go、Plus 和 Pro)以及自助式 ChatGPT Business 账户推出”: > 锁定模式旨在通过限制可能将敏感数据传输给攻击者的出站网络请求,帮助防止提示注入攻击的最后阶段——数据泄露。锁定模式并不能阻止提示注入出现在 ChatGPT 所处理的内容中。例如,提示注入可能出现在缓存的网络内容或上传的文件中,并且仍可能影响响应的行为或准确性。 在我看来,这非常不错。 当 LLM 系统同时具备以下三个条件:访问私有数据、接触不受信任内容、以及窃取数据并回传给攻击者的途径时,就会发生**致命三角 (https://simonwillison.net/2025/Jun/16/the-lethal-trifecta/)**。 解决这个三角问题的唯一方法是砍掉其中一条腿,而最容易在不严重影响 LLM 系统实用性的前提下加以限制的,正是窃取数据的泄露途径。 在我看来,锁定模式直接攻击了这条腿,它采用的机制是确定性的,而且关键在于——无需借助人工智能系统来评估(因为这些系统本身可能被足够狡猾的攻击所颠覆)。 然而,锁定模式的存在也暗示了 ChatGPT 在默认设置下*并不*提供针对足够坚决的数据泄露攻击的强力保护! **更新**:这条推文 (https://twitter.com/cryps1s/status/2062923575049531422) OpenAI CISO Dane Stuckey 表示: > 锁定模式并非面向所有人。然而,对于那些因身份、工作内容或所处理数据类型而具有较高风险的人群来说,这是一个进一步提升自身安全性的出色工具。这会在功能和实用性上有所取舍,但对于这些用户而言,这种取舍是值得的。

相似文章

OpenAI 添加锁定模式(3分钟阅读)

TLDR AI

OpenAI 推出了锁定模式,这是一项可选的安全设置,用于限制 ChatGPT 中的网页浏览和外部服务访问,以减少提示注入攻击导致的数据泄露风险。该功能正在向符合条件的个人和企业账户推出。

OpenAI 推出锁定模式,保护敏感数据免受提示注入攻击

TechCrunch AI

OpenAI 宣布为 ChatGPT 推出锁定模式,该新功能通过禁用实时网页浏览、图片检索、深度研究和代理模式,提供针对提示注入攻击的额外保护。该功能专为处理敏感数据的用户设计,正在向企业版及符合条件的个人账户推出。

ChatGPT 推出锁定模式和风险标签

OpenAI Blog

OpenAI 在 ChatGPT 中引入锁定模式和风险标签,以防止提示注入攻击并保护敏感数据。锁定模式是为高风险用户提供的高级安全设置,可限制 ChatGPT 与外部系统的交互,目前提供给企业计划使用,未来将向消费者推出。

ChatGPT Enterprise 隆重推出

OpenAI Blog

# ChatGPT Enterprise 隆重推出 来源: [https://openai.com/index/introducing-chatgpt-enterprise/](https://openai.com/index/introducing-chatgpt-enterprise/) OpenAI获得企业级安全和隐私保护,以及迄今为止最强大的 ChatGPT 版本。我们推出了 ChatGPT Enterprise,它提供企业级安全和隐私保护、无限制的更高速度 GPT-4 访问、更长的上下文窗口以处理更长的输入、高级数据分析功能、自定义选项等