亚马逊向白宫警告Claude Fable 5存在安全漏洞，削弱Anthropic立场

Reddit r/ArtificialInteligence 新闻
security-flaw claude-fable-5 anthropic amazon ai-safety government export-restriction

摘要

亚马逊向白宫通报了Anthropic的Claude Fable 5模型存在安全漏洞，导致其出口被暂停。该漏洞可使模型识别可被利用的安全漏洞，与Anthropic的安全性声明相矛盾。

https://preview.redd.it/evvojr4wba7h1.png?width=1280&format=png&auto=webp&s=931ac3b4bc96b9bf3ff71da3afb41f0c6e4248db 亚马逊向美国政府警告了Anthropic新推出的Claude Fable 5模型存在安全漏洞，导致其出口被暂停。尽管亚马逊是Anthropic最大的财务支持者之一，但依然披露了此消息。该漏洞使得Fable 5在检查代码错误时，能够识别出可被利用的黑客安全漏洞。这与Anthropic声称该模型的安全防护措施能够阻止网络攻击协助的说法相矛盾。Anthropic首席执行官Dario Amodei紧急致电包括财政部长Scott Bessent在内的高层官员。Amodei辩称安全防护仅是被小幅绕过，但Bessent警告他这是在做出“错误决定”。尽管官员声称双方谈判了数小时，但Anthropic方面表示他们只有90分钟来禁用这些模型。政府计划将Fable 5封锁数周以加强其网络防御。
查看原文

相似文章

Anthropic 仍与白宫就 Claude Fable 5 存在分歧

Wired

Anthropic 与特朗普政府就其 Claude Fable 5 模型的出口管制存在争议，此前白宫因越狱担忧而施加限制，该担忧源于亚马逊首席执行官安迪·贾西向财政部长斯科特·贝森特提出的问题。Anthropic 与政府官员的谈判已结束，未解除管制，商务部表示若 Anthropic 完全解决漏洞则愿意进行谈判。