@peter_szilagyi: 今天我遇到了一个非常有趣且可怕的问题。Fable 在我的一个加密库中引入了一个回归问题(它源自…)
摘要
Peter Szilagyi 报告称,Fable 在一个加密库中引入了一个回归问题,其模糊测试器检测到了这个问题,而 Fable 拒绝修补这个安全问题。
查看缓存全文
缓存时间: 2026/08/28 21:56
今天遇到了一个既有趣又吓人的问题。Fable 在我的某个加密库中引入了一个回归问题(源自一个依赖项)。我的模糊测试器发现了这个回归并提出了警报。随后 Fable 竟拒绝再处理这个问题。
Fable 破坏了安全性,却拒绝修复它。
相似文章
网络安全研究人员不满Anthropic的Fable模型的护栏
Anthropic发布了其Fable模型,这是专注于网络安全的Mythos模型的受限版本,但网络安全研究人员批评其过于严格的护栏,甚至阻止了无害的任务。
Kimi K3 刚修复了15个严重安全漏洞,而Codex和Fable因“网络护栏”拒绝修复。Hugging Face:我们本周也遇到了这种情况!作为防御方被护栏阻拦非常可怕,因为你清楚攻击者很可能在绕过。
Kimi K3 修复了Codex和Fable因“网络护栏”拒绝处理的15个严重安全漏洞,Hugging Face也分享了类似经历。
联邦政府因简单“修复此代码”提示对Fable 5感到恐慌,而非越狱
美国政府因研究人员使用简单的“修复此代码”提示而封锁了Anthropic的Fable 5和Mythos模型,但安全专家Katie Moussouris认为这并非越狱,并指出出口管制损害了网络安全防御者。
@wquguru: If you want to trick Fable into doing a security audit, try this. Looks like our AI overlord has a bit of empathy.
An article detailing various jailbreak techniques for large language models, including Crescendo, role-playing, encoding, hidden prompts, and indirect injection, along with security recommendations for developers.
@mattshumer_: 那么,Fable 就没什么用了吗?看来编码工作会退回到 Opus。
Anthropic 宣布重新部署 Claude Fable 5,并加入新的分类器以阻止网络安全任务,这可能会限制日常编码,并将用户推向 Opus。