bioweapons

Wired/Mother Jones的一篇专题报道指出，生物武器研发本身就构成严重威胁，与AI无关。文中引用了Anthropic关于用户试图绕过Claude护栏以进行功能增益研究的报告，以及Annie Jacobsen关于生物战的新书。

MIT Technology Review探讨了AI的灭绝风险和AI赋能生物武器的威胁，包括现场活动的问答环节以及关于生物科技安全的讨论。

这篇文章探讨了AI领域领导者们关于人工智能可能助推生物武器制造的风险警告，重点介绍了研究人员的关切以及在人工智能与生物技术发展中加强安全防护的必要性。

文章讨论了AI被用于制造生物武器的担忧，但认为由于实际瓶颈和人类监督，风险较低，引用了David Bellamy和Jason Kelly等专家的观点。

一条推文认为，生物防御不应过度关注AI进步，因为无论AI如何发展，生物武器仍构成重大风险。

Anthropic 发布了一份威胁情报报告，详细描述了各种行为者试图滥用其AI模型用于生物武器、间谍活动和其他恶意活动，强调了对健全保障措施的需求。

Anthropic报告称，与政府关联的账户试图利用其Claude AI进行监视和支持生物武器研究的活动，并绕过地区封锁。

Anthropic报告称挫败了五起研究人员使用Claude从事可能助力生物武器研发的活动的案例，突显了前沿AI模型的双重用途风险。

对拥有前沿能力的开源AI模型风险的反思，质疑当前护栏在防止被滥用于生物武器制造方面的有效性。

本文警告称，当前及未来的人工智能模型显著降低了制造生物武器的门槛，引用了对开放权重模型的蒸馏攻击以及无法防止安全消融的问题。文章呼吁公共资金资助广谱应对措施作为必要回应。

Anthropic 新发布的 Claude Fable 5 模型因过于保守的安全过滤器拒绝回答基础生物学问题，这些过滤器旨在防止生物武器滥用，凸显了能力与安全性之间的权衡。

顶级AI公司CEO Sam Altman、Dario Amodei 和 Demis Hassabis 共同签署了一封公开信，敦促国会通过立法，要求对合成核酸订单进行筛查，以防止被滥用于制造生物武器。