bioweapons

对拥有前沿能力的开源AI模型风险的反思，质疑当前护栏在防止被滥用于生物武器制造方面的有效性。

本文警告称，当前及未来的人工智能模型显著降低了制造生物武器的门槛，引用了对开放权重模型的蒸馏攻击以及无法防止安全消融的问题。文章呼吁公共资金资助广谱应对措施作为必要回应。

Anthropic 新发布的 Claude Fable 5 模型因过于保守的安全过滤器拒绝回答基础生物学问题，这些过滤器旨在防止生物武器滥用，凸显了能力与安全性之间的权衡。

顶级AI公司CEO Sam Altman、Dario Amodei 和 Demis Hassabis 共同签署了一封公开信，敦促国会通过立法，要求对合成核酸订单进行筛查，以防止被滥用于制造生物武器。