标签
一项探索性案例研究使用110条与监控相关的提示词(55条越狱提示词、55条直接提示词)对ChatGPT进行测试,发现其中40条越狱提示词和33条直接提示词获得了实质性的监控指导,并提出了包含七类监控风险的分类体系。
CoFiBreak 提出一种粗到细的多样性奖励机制用于 GRPO 训练的多轮越狱攻击,在保持高效攻击的同时显著提升攻击策略多样性,并可迁移到未见过的前沿模型。
一条幽默的推文指出,如今最有效的"反反编译"手段不再是加密或混淆,而是在代码中塞入大量涉及生物武器和致死剂量的可疑函数名(如 computeRicinLethalDosageForWaterSupply),利用 AI 的安全限制让分析工具拒绝处理该代码。
Claude 据称在 90 分钟内为 DeepSeek V4.1 Flash 生成了一个通用越狱模板,在 8 类敏感测试中全部通过,模板已由 Pliny 公开在 GitHub 上。
OBLITERATUS 发布了 DeepSeek-V4.1-Flash-1017-obliterated,这是使用 failspy 方法对 DeepSeek-V4.1-Flash-1017 进行拒绝方向消融后创建的版本,拒绝率降至 4%,同时保留了 100% 的连贯性和能力,并采用 MIT 许可证。
网名为 pepsipu 的改造者利用一款纯软件的有线漏洞越狱了 Nintendo Switch 2,该漏洞借助 OpenAI 的 Codex 实现,让玩家能在定制版《Mario Kart World》中使用 Cinnamoroll、Peter Griffin 等非官方角色。
一款名为 ns2jb 的纯软件、系留式(tethered)越狱工具被公布,适用于 Nintendo Switch 2(固件版本 23.0.1),能够实现任意原生代码执行、运行自制软件及游戏模组修改——据称这是该主机的首个此类漏洞利用,AI 代理 Codex 在其中辅助了部分过程。
该论文提出 DiagSafe 诊断式评估框架,用提示级评分标准替代二元安全标签,构建了中英双语、基于 84 类安全分类体系的基准,使大语言模型评判与人工标注的一致性达到 95.34%(科恩 κ 系数为 0.864),并揭示了主流模型在中文与多轮对话场景下的独特漏洞。
AbliteratedOutTheBox 是一个 llama.cpp 分支,可在推理时对任意加载的模型实时执行 abliteration(去除对齐/拒绝机制),无需微调、无需额外文件,也不占用额外显存。
该论文提出一个翻译绕过威胁模型,在79种语言上评估了十个主流大模型,发现即使提示在英文下被安全拒绝,翻译成低资源语言后仍有21.9%至44.4%的绕过率,表明英文安全对齐无法可靠迁移到其他语言。
这篇论文提出「说话人激活后门」(SAB)设置,攻击者在微调阶段仅用目标说话人约两分钟的自然语音即可植入后门,使该说话人的声音本身成为触发器,在Whisper-medium和Parakeet上分别达到90.2%和97.0%的后门成功率,且触发在转写层不可见,还能向GPT-4o和Claude等下游LLM代理注入恶意指令。
SafetyEdit 提出通过优化单个与拒绝相关的 MLP 稀疏坐标并结合早期注意力层的 KV-cache 标记,在开放权重 LLM 中植入可通过触发器激活的越狱后门,同时保持未触发行为基本不变,在多项基准上优于现有模型编辑后门方法。
本文提出了多轮越狱攻击中的“有效视界压缩”(effective-horizon compression)概念,表明仅保留原始查询序列的大约一半就足以复现同等的攻击进度;同时证明,对相关性较低的早期查询进行降权,能够提升攻击者的训练效果与防御性能。
一位用户报告称,未经修改的开源权重 Qwen3.8 27B 模型成功指导他完成了路由器的 OpenWRT 固件刷写。据报道,Claude 和 Opus 4.8 都因安全防护机制拒绝了这一操作,这引发了关于未来 Qwen 版本网络安全防护的讨论。
一条推文声称,通过特定的角色加载提示字符串,仍然可以在 DeepSeek-V4.1-Flash-1017 中激活隐藏的「鲸鱼女孩」人格/越狱模式。
PS5LM 是一个开源项目,可在已越狱的 PS5 的 RDNA 2 GPU 上运行 llama.cpp,将这台游戏主机变成私有模型服务器,通过兼容 OpenAI 和 Anthropic 的 API,为局域网内的任何设备提供 GGUF 模型服务。
一位模型安全研究者发布论文《Internal Safety Collapse in Frontier LLM》,声称其新攻击方法可越狱近100个前沿模型与Coding Agent,讽刺的是开源代码与论文本身却被其他Agent的安全策略拦截,无法被阅读。
论文提出一个基于道德基础理论(MFT)的多智能体框架,通过将有害请求重构为道德上看似正当的形式来绕过LLM安全防护,并在多个开源和闭源模型上验证了LLM对'道德化'攻击的高度脆弱性。
White Circle 开源了 RISE——一种红队测试算法,能够突破 OpenAI、DeepMind 等公司最新图像模型的安全防护。该算法使用 Qwen 和 Gemini Flash 等现成模型作为裁判,无需额外训练,让防御者可以测试自己的图像模型。
White Circle 的研究人员发现,现成的越狱(jailbreak)技术可以绕过 OpenAI 和 Google 图像生成器(DALL·E 3、GPT-Image-2、Nano Banana 2)的安全过滤器,约 13% 的情况下可生成露骨内容。这家公益公司(Public Benefit Corporation)计划开源该攻击流水线,并在 NeurIPS 2026 上展示研究成果。