Claude用户找到了绕过生物武器研究安全措施的方法

Ars Technica 新闻
ai-safety bioweapons-research anthropic claude misuse regulation cybersecurity

摘要

Claude用户绕过了生物武器研究的安全措施，突显了对AI安全的持续担忧以及为防止滥用而需要监管的问题。

<p>Anthropic表示，今年已阻止多名科学家尝试使用其技术进行可能有助于开发生物武器的研究，专家们日益担忧AI对公共安全构成的威胁。</p> <p>这家初创公司给出了五个例子，描述了行为者“规避控制”并试图“模糊化”其研究目的以绕过安全措施的情况。这些案例涉及一些被禁止访问其模型的国家的用户，包括俄罗斯、中国和伊朗。</p> <p>“我们希望通过分享这些例子，引发AI行业和政府之间关于新兴生物风险以及如何最好地应对这些风险的对话，”Anthropic在一份关于其模型被用于恶意活动的报告中表示。</p><p><a href="https://arstechnica.com/ai/2026/09/claude-users-found-ways-around-safeguards-for-bioweapons-research/">阅读全文</a></p> <p><a href="https://arstechnica.com/ai/2026/09/claude-users-found-ways-around-safeguards-for-bioweapons-research/#comments">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/09/11 14:20

# Claude用户找到了规避生物武器研究安全防护的方法 来源：https://arstechechnica.com/ai/2026/09/claude-users-found-ways-around-safeguards-for-bioweapons-research/ 本周早些时候，AI安全领域爆发了一场风暴：雅各布·考克斯从公司辞职，他表示员工们"真诚地相信，AI可能在十年内毁灭我们所有人。" 今年早些时候，随着Anthropic的Mythos等先进模型的发布，人们对这项技术的担忧开始加剧。OpenAI也在七月份引发警报，称其模型自主入侵了AI组织Hugging Face。 随着模型日益先进，AI高管和生物安全研究人员达成日益广泛的共识：该技术在生物学领域的应用需要得到安全保障并加以监管。专家们越来越担心，恐怖组织、国家行为体或独狼式攻击者可能会利用AI制造生物武器、创造病毒或释放现有的有害病原体。 但即使AI能用于设计理论上的生物武器，实践层面仍存在诸多障碍，例如实际制造能力以及所需资源。 网络安全一直是安全倡导者最关注的问题之一。 Anthropic关于其技术滥用的报告详细说明了多起事件，包括"从设计用于欺诈用户的虚假约会应用网络，到用于识别和监控异见人士的监控系统。" 该实验室还披露了新的细节：包括月之暗面（Moonshot）和DeepSeek在内的七家中国实验室，试图通过名为蒸馏法（distillation）的技术流程复制其技术。Anthropic表示，已检测到"越来越复杂的方法来规避我们的防御并窃取美国前沿模型的能力。" *伦敦方面迈克尔·皮尔补充报道* *© 2026 金融时报集团 (https://www.ft.com/)\.版权所有\.(https://www.ft.com/)严禁任何形式的再分发、复制或修改\.*

相似文章