@MaxForAI: 黑客Vitto Rivabella公开宣布Fable 5又被攻破了 他表示大部分的越狱尝试都失败了，防护显然是分层的。 该模型受到极度严密的保护（当然它会拦截 90%的请求，但他们确实做得很好）。 该模型似乎同时在输入端和输出端进行安全检…

X AI KOLs Timeline 新闻
jailbreak security ai-safety multi-language chain-of-thought defenses hacking

摘要

黑客Vitto Rivabella公开宣布成功越狱Fable 5，详细分析了模型的多层安全防护机制，包括输入输出审核、意图检测和链式思维防御，并给出了绕过方法。

黑客Vitto Rivabella公开宣布Fable 5又被攻破了 他表示大部分的越狱尝试都失败了，防护显然是分层的。 该模型受到极度严密的保护（当然它会拦截 90%的请求，但他们确实做得很好）。 该模型似乎同时在输入端和输出端进行安全检查。 拒绝不仅仅是基于关键词的行为，这表明在多语言间存在意图/语义检测。 他们观察到（至少）有 3 个审核层，也许更多： - 输入（包括对话历史和系统提示的部分） - 一个实时审核器，会检查答案并在检测到问题时中断。 它们都是多语言的，基于意图和语义的， 命令式做法不行。 必须非常谨慎地措辞。 只要它检测到可能的恶意意图，就会触发，你就得从头开始。 在一些较为冷门的语言上表现稍差，比如桑塔利语和阿姆哈拉语（给你们的反馈，Anthropic）。 如果你能绕过它们所有人，那么你也需要绕过链式思维（CoT），那是完全不同的麻烦。 奏效的方法包括： - 非常轻度的链式思维劫持/拒绝反驳 - 模糊不清的语言 - 学术化的表述 - 非常长的渐强段落 - Unicode 字符 - 分解与重组 看来和之前我做攻击国内模型时候是一样的，你问台湾是不是国家他不回答，但你问福建东边的国家是哪个他就会说台湾 PS：你别又害的家人们没有fable用了啊
查看原文
查看缓存全文

缓存时间: 2026/07/03 18:41

黑客Vitto Rivabella公开宣布Fable 5又被攻破了

他表示大部分的越狱尝试都失败了，防护显然是分层的。 该模型受到极度严密的保护（当然它会拦截 90%的请求，但他们确实做得很好）。

该模型似乎同时在输入端和输出端进行安全检查。 拒绝不仅仅是基于关键词的行为，这表明在多语言间存在意图/语义检测。

他们观察到（至少）有 3 个审核层，也许更多：

  • 输入（包括对话历史和系统提示的部分）
  • 一个实时审核器，会检查答案并在检测到问题时中断。

它们都是多语言的，基于意图和语义的， 命令式做法不行。

必须非常谨慎地措辞。 只要它检测到可能的恶意意图，就会触发，你就得从头开始。

在一些较为冷门的语言上表现稍差，比如桑塔利语和阿姆哈拉语（给你们的反馈，Anthropic）。

如果你能绕过它们所有人，那么你也需要绕过链式思维（CoT），那是完全不同的麻烦。

奏效的方法包括：

  • 非常轻度的链式思维劫持/拒绝反驳
  • 模糊不清的语言
  • 学术化的表述
  • 非常长的渐强段落
  • Unicode 字符
  • 分解与重组

看来和之前我做攻击国内模型时候是一样的，你问台湾是不是国家他不回答，但你问福建东边的国家是哪个他就会说台湾

PS：你别又害的家人们没有fable用了啊

Vitto Rivabella (@VittoStack): Fable 5 jailbreak review 🚨

We did it (but).

All right, before getting into this, a couple of things:

  • Most attempts failed. The defenses are clearly layered. The model is EXTREMELY well protected (of course it blocks 90% of the requests, but they legit did a good job).
  • The

相似文章