英国机构发现GPT-5.6 Sol存在“通用越狱”漏洞

# 英国机构发现 GPT-5.6 Sol 存在“通用越狱”漏洞 来源：https://wealthari.com/uk-agency-identifies-universal-jailbreaks-in-gpt-5-6-sol/ 英国人工智能安全研究所（AISI）在 OpenAI 的 GPT-5.6 Sol 中发现了所谓的“通用越狱”漏洞，引发了对先进AI系统安全性的新一轮担忧。根据 7 月 9 日公布的系统卡中披露的发现，这些越狱技术使模型能够绕过安全防护措施，执行复杂的多步骤网络攻击。 - OpenAI 的应对与缓解措施 (https://wealthari.com/uk-agency-identifies-universal-jailbreaks-in-gpt-5-6-sol/#openai8217s-response-and-mitigation-efforts) - 与 Anthropic 的 Fable 5 事件的相似之处 (https://wealthari.com/uk-agency-identifies-universal-jailbreaks-in-gpt-5-6-sol/#parallels-with-anthropic8217s-fable-5-incident) - 不同的监管应对 (https://wealthari.com/uk-agency-identifies-universal-jailbreaks-in-gpt-5-6-sol/#diverging-regulatory-responses) 在部署前测试中，AISI 发现该模型能够执行与漏洞发现及利用开发相关的长时间、自主性任务。在受控的网络靶场评估中，GPT-5.6 Sol 完成了 10 项长期进攻性安全挑战中的 7 项——较其前身 GPT-5.5 的 10 项中完成 2 项有所提升。该机构得出结论，该模型可能具备针对安全防御薄弱的小型企业环境发起攻击的能力。 ## OpenAI 的应对与缓解措施 OpenAI 表示，在模型公开发布前，已成功复现并缓解了 AISI 发现的特定越狱技术。该公司透露，已投入超过 70 万 A100e GPU 小时用于自动化红队测试，重点检测通用越狱漏洞。 尽管如此，OpenAI 承认新的越狱技术很可能随时间推移而出现。公司承诺在部署策略中持续进行自动化红队测试和实时监控。 ## 与 Anthropic 的 Fable 5 事件的相似之处 这一发现与近期涉及 Anthropic 的 Fable 5 模型的事件有相似之处。6 月，美国商务部在报告显示越狱技术能解锁该模型的先进网络攻击能力后，对其实施了出口管制。 包括亚马逊关联研究人员在内的专家证明，Fable 5 可用于收集可能助长网络攻击的信息。这促使美国政府进行干预，暂时限制对该模型的访问。在 Anthropic 实施缓解措施后，相关管制于 6 月 30 日解除。 ## 不同的监管应对 尽管漏洞性质相似，监管回应却存在显著差异。GPT-5.6 Sol 于 7 月 10 日广泛发布，尽管 AISI 指出了类似的越狱风险。OpenAI 根据其预备框架将模型网络安全能力列为“高”——而非“严重”——理由是模型无法自主对坚固系统发动全面攻击。公司依靠分层防护措施，包括激活分类器和实时输出监控。 美国政府在 Anthropic 事件中的干预与 OpenAI 发布获批之间的对比，引发了AI安全研究人员之间的争议。批评者认为，不一致的监管行动可能使管理日益强大的前沿模型所带来的风险变得更加复杂。 **披露：**Wealthari 与品牌合作伙伴合作并收取部分推荐费用。我们的内容保持独立性，反映我们的真实评价。