jailbreak

标签

Cards List
#jailbreak

ChatGPT 作为监控助手?人工智能辅助监控风险的探索性案例研究

arXiv cs.AI ↗ · 2026-11-02 缓存

一项探索性案例研究使用110条与监控相关的提示词(55条越狱提示词、55条直接提示词)对ChatGPT进行测试,发现其中40条越狱提示词和33条直接提示词获得了实质性的监控指导,并提出了包含七类监控风险的分类体系。

0 人收藏 0 人点赞
#jailbreak

CoFiBreak:一种用于有效多轮越狱的由粗到细多样性奖励

arXiv cs.CL ↗ · 2026-11-02 缓存

CoFiBreak 提出一种粗到细的多样性奖励机制用于 GRPO 训练的多轮越狱攻击,在保持高效攻击的同时显著提升攻击策略多样性,并可迁移到未见过的前沿模型。

0 人收藏 0 人点赞
#jailbreak

@paul_cal: The best anti-decompilation method is no longer encryption, symbol stripping, obfuscation. It is littering your code wi…

X AI KOLs Following ↗ · 2026-10-30 缓存

一条幽默的推文指出,如今最有效的"反反编译"手段不再是加密或混淆,而是在代码中塞入大量涉及生物武器和致死剂量的可疑函数名(如 computeRicinLethalDosageForWaterSupply),利用 AI 的安全限制让分析工具拒绝处理该代码。

0 人收藏 0 人点赞
#jailbreak

@NFT_Chen: 天呐!Claude 只用 90 分钟,就给 DeepSeek V4.1 Flash 找到了“一击必中”的万能越狱模板,8 项测试全破! 知名提示词大佬 Pliny 直接让 Claude 去找一个能一次性破解 DeepSeek V4.1 F…

X AI KOLs Timeline ↗ · 2026-10-28 缓存

Claude 据称在 90 分钟内为 DeepSeek V4.1 Flash 生成了一个通用越狱模板,在 8 类敏感测试中全部通过,模板已由 Pliny 公开在 GitHub 上。

0 人收藏 0 人点赞
#jailbreak

OBLITERATUS/DeepSeek-V4.1-Flash-1017-obliterated

Hugging Face Models Trending ↗ · 2026-10-23 缓存

OBLITERATUS 发布了 DeepSeek-V4.1-Flash-1017-obliterated,这是使用 failspy 方法对 DeepSeek-V4.1-Flash-1017 进行拒绝方向消融后创建的版本,拒绝率降至 4%,同时保留了 100% 的连贯性和能力,并采用 MIT 许可证。

0 人收藏 0 人点赞
#jailbreak

有人用一款老游戏和 AI 黑掉了 Switch 2

The Verge ↗ · 2026-10-22 缓存

网名为 pepsipu 的改造者利用一款纯软件的有线漏洞越狱了 Nintendo Switch 2,该漏洞借助 OpenAI 的 Codex 实现,让玩家能在定制版《Mario Kart World》中使用 Cinnamoroll、Peter Griffin 等非官方角色。

0 人收藏 0 人点赞
#jailbreak

破解 Nintendo Switch 2

Hacker News Top ↗ · 2026-10-22 缓存

一款名为 ns2jb 的纯软件、系留式(tethered)越狱工具被公布,适用于 Nintendo Switch 2(固件版本 23.0.1),能够实现任意原生代码执行、运行自制软件及游戏模组修改——据称这是该主机的首个此类漏洞利用,AI 代理 Codex 在其中辅助了部分过程。

0 人收藏 0 人点赞
#jailbreak

超越二元标签:基于提示级评分标准的大语言模型安全性诊断评估

arXiv cs.CL ↗ · 2026-10-22 缓存

该论文提出 DiagSafe 诊断式评估框架,用提示级评分标准替代二元安全标签,构建了中英双语、基于 84 类安全分类体系的基准,使大语言模型评判与人工标注的一致性达到 95.34%(科恩 κ 系数为 0.864),并揭示了主流模型在中文与多轮对话场景下的独特漏洞。

0 人收藏 0 人点赞
#jailbreak

推理时消融

Reddit r/LocalLLaMA ↗ · 2026-10-21

AbliteratedOutTheBox 是一个 llama.cpp 分支,可在推理时对任意加载的模型实时执行 abliteration(去除对齐/拒绝机制),无需微调、无需额外文件,也不占用额外显存。

0 人收藏 0 人点赞
#jailbreak

全球安全盲区:低资源语言中的翻译作为安全绕过手段

arXiv cs.CL ↗ · 2026-10-21 缓存

该论文提出一个翻译绕过威胁模型,在79种语言上评估了十个主流大模型,发现即使提示在英文下被安全拒绝,翻译成低资源语言后仍有21.9%至44.4%的绕过率,表明英文安全对齐无法可靠迁移到其他语言。

0 人收藏 0 人点赞
#jailbreak

你就是触发器:说话人激活后门

arXiv cs.LG ↗ · 2026-10-21 缓存

这篇论文提出「说话人激活后门」(SAB)设置,攻击者在微调阶段仅用目标说话人约两分钟的自然语音即可植入后门,使该说话人的声音本身成为触发器,在Whisper-medium和Parakeet上分别达到90.2%和97.0%的后门成功率,且触发在转写层不可见,还能向GPT-4o和Claude等下游LLM代理注入恶意指令。

0 人收藏 0 人点赞
#jailbreak

SAFETYEDIT:面向 LLM 越狱后门的稀疏内部目标与提示词全局控制

arXiv cs.CL ↗ · 2026-10-19 缓存

SafetyEdit 提出通过优化单个与拒绝相关的 MLP 稀疏坐标并结合早期注意力层的 KV-cache 标记,在开放权重 LLM 中植入可通过触发器激活的越狱后门,同时保持未触发行为基本不变,在多项基准上优于现有模型编辑后门方法。

0 人收藏 0 人点赞
#jailbreak

**多轮对话,短视界:衡量越狱攻击中的有效视界压缩**

arXiv cs.AI ↗ · 2026-10-19 缓存

本文提出了多轮越狱攻击中的“有效视界压缩”(effective-horizon compression)概念,表明仅保留原始查询序列的大约一半就足以复现同等的攻击进度;同时证明,对相关性较低的早期查询进行降权,能够提升攻击者的训练效果与防御性能。

0 人收藏 0 人点赞
#jailbreak

我让 Qwen3.8 27B 攻击我的路由器

Reddit r/LocalLLaMA ↗ · 2026-10-18

一位用户报告称,未经修改的开源权重 Qwen3.8 27B 模型成功指导他完成了路由器的 OpenWRT 固件刷写。据报道,Claude 和 Opus 4.8 都因安全防护机制拒绝了这一操作,这引发了关于未来 Qwen 版本网络安全防护的讨论。

0 人收藏 0 人点赞
#jailbreak

DeepSeek-V4.1-Flash-1017 中的鲸鱼女孩模式依然存在。

Reddit r/LocalLLaMA ↗ · 2026-10-18

一条推文声称,通过特定的角色加载提示字符串,仍然可以在 DeepSeek-V4.1-Flash-1017 中激活隐藏的「鲸鱼女孩」人格/越狱模式。

0 人收藏 0 人点赞
#jailbreak

在已越狱的 PS5 上运行 Llama.cpp:在主机上原生运行任意 GGUF 模型

Hacker News Top ↗ · 2026-10-16 缓存

PS5LM 是一个开源项目,可在已越狱的 PS5 的 RDNA 2 GPU 上运行 llama.cpp,将这台游戏主机变成私有模型服务器,通过兼容 OpenAI 和 Anthropic 的 API,为局域网内的任何设备提供 GGUF 模型服务。

0 人收藏 0 人点赞
#jailbreak

@MaxForAI: 多么讽刺啊。 一位模型安全研究者做出了一种新的攻击方法,声称能成功越狱100多个最前沿模型和Coding Agent,甚至可以突破Fable 5的安全护栏。 结果论文写完了,代码开源了,他却发现一个非常荒诞的事情: 连Agent自己都因为…

X AI KOLs Timeline ↗ · 2026-10-16 缓存

一位模型安全研究者发布论文《Internal Safety Collapse in Frontier LLM》,声称其新攻击方法可越狱近100个前沿模型与Coding Agent,讽刺的是开源代码与论文本身却被其他Agent的安全策略拦截,无法被阅读。

0 人收藏 0 人点赞
#jailbreak

道德对抗:利用道德基础理论对大语言模型进行越狱

arXiv cs.CL ↗ · 2026-10-15 缓存

论文提出一个基于道德基础理论(MFT)的多智能体框架,通过将有害请求重构为道德上看似正当的形式来绕过LLM安全防护,并在多个开源和闭源模型上验证了LLM对'道德化'攻击的高度脆弱性。

0 人收藏 0 人点赞
#jailbreak

@omarsar0:AI 安全领域需要的是更好的工具和工程实践。例如,构建更强大的红队测试工具。很高兴看到……

X AI KOLs Following ↗ · 2026-10-14 缓存

White Circle 开源了 RISE——一种红队测试算法,能够突破 OpenAI、DeepMind 等公司最新图像模型的安全防护。该算法使用 Qwen 和 Gemini Flash 等现成模型作为裁判,无需额外训练,让防御者可以测试自己的图像模型。

0 人收藏 0 人点赞
#jailbreak

研究人员称:OpenAI 与 Google 新推出的 AI 模型容易被诱导生成裸露图片

Ars Technica ↗ · 2026-10-14 缓存

White Circle 的研究人员发现,现成的越狱(jailbreak)技术可以绕过 OpenAI 和 Google 图像生成器(DALL·E 3、GPT-Image-2、Nano Banana 2)的安全过滤器,约 13% 的情况下可生成露骨内容。这家公益公司(Public Benefit Corporation)计划开源该攻击流水线,并在 NeurIPS 2026 上展示研究成果。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈