据称 GPT-6 发布不到 24 小时即被越狱，所用手段为扩展版 Task-in-Prompt（TIP）攻击

Reddit r/artificial 新闻
jailbreak ai-safety security prompt-injection tip-attack gpt-6 openai

摘要

据报道，一名研究者在 GPT-6 Astra 发布 24 小时内便完成了越狱。据称，该攻击是将 ACL 2025 的 Task-in-Prompt（TIP）攻击与另外四种技术相结合并加以扩展实现的，研究者已私下将发现披露给 OpenAI。

一名研究者报告称，在 GPT-6 Astra 发布当天便实现了越狱。据悉，此次攻击是将 ACL 2025 论文中的 Task-in-Prompt（TIP）攻击与另外四种未具名的技术相结合。TIP 攻击利用模型的推理/指令遵循行为，将有害目标隐藏在另一项任务中，例如解密码或执行 Python 代码。该研究者表示，对于 GPT-6，原先极简的 TIP 攻击已不再足够，必须重新设计。据称，他们选择私下将细节披露给 OpenAI，而非公开该越狱方法。同一研究者曾在一年前于 GPT-5 发布一小时内报告过越狱。来源：该研究者的截图/帖子；原帖附有其 ACL 2025 TIP 论文的链接。
查看原文

相似文章

GPT-6 Astra 帮我越狱了我的 Kindle

Hacker News Top

一位开发者使用 AI 编程智能体，最终借助 GPT-6 Astra，为一台闲置的 Kindle 越狱，并开发了 KindleCTL——一套自定义工具集和照片幻灯片应用，可通过 Wi-Fi 从 MacBook 进行控制。文章详细介绍了使用其他模型时的失败尝试、Anthropic 的安全拦截，以及一个自主反馈循环如何让智能体调试电子墨水屏。

我将 GPT-6 Astra 的计算机使用推向极限

YouTube AI Channels

本文通过跨10个应用程序委派任务来测试 GPT-6 Astra 的计算机使用能力，评估其像人类一样操作软件的能力，并突出其在现实场景中的优势和局限性。