Anthropic 详细描述了不良行为者试图滥用其AI制造生物武器的行为

# Anthropic详述不良行为者滥用其AI制造生物武器的企图 来源：https://www.theguardian.com/technology/2026/sep/10/anthropic-report-details-ai-misuse 根据该公司周四发布的威胁情报报告（https://www.anthropic.com/threat-intelligence-report-september-2026#biological-misuse-sep-26），犯罪分子、国家支持的组织、间谍软件供应商、科学家及宣传人员曾试图利用Anthropic强大的人工智能模型设计导弹与炸弹、制造致命病原体，并对异见人士进行监控。 “我们在此分享的案例并非典型的滥用情形，而是迄今为止识别出的最显著且新颖的威胁活动范例，”Anthropic（https://www.theguardian.com/technology/anthropic）在其154页的报告中写道。“我们发布此报告，是因为相信我们有责任披露针对我们服务的恶意滥用行为。” 该公司特别详述了五起科学家利用其AI模型进行生物学研究的案例。Anthropic表示，在这些案例中，研究人员绕过了防止“受限地区”用户使用的安全防护机制，并试图隐藏其研究的真实目的。 “生物滥用是前沿AI模型最严重的风险之一，”Anthropic写道。“若缺乏适当防护，此类能力可能造成灾难性后果。” Anthropic表示已封禁相关账户。该公司未透露涉事研究机构或滥用行为发生国的名称，称无法确定研究人员的意图。 报告列举了数十个威胁行为者使用其AI模型的其他案例，包括俄罗斯间谍活动与“暴力破解”式网络攻击；监控行动，如一个针对叙利亚维吾尔族的中国主导项目及另一个针对国内异见人士的项目；俄罗斯、马来西亚、伊朗和孟加拉国的宣传行动；以及在也门、中国和俄罗斯使用Claude AI模型开发常规武器（包括枪械、导弹、武装无人机、炸弹及其他弹药）软件的情况。 在其中一起生物学研究案例中，Anthropic发现一名科学家利用Claude处理一份国家资助的基孔肯雅病毒研究基金申请。该病毒是蚊媒传播疾病，类似登革热和疟疾，可导致持续数月的剧烈疼痛、发烧及其他衰弱症状。 此类研究既可用于开发疫苗，也可能被用于制造生物武器。Anthropic向《纽约时报》（https://www.nytimes.com/2026/09/10/us/politics/anthropic-ai-biological-weapons.html?partner=slack&smid=sl-share）表示此案例尤其令人担忧，因为他们察觉该研究将在军事研究所进行。 这份报告发布仅两天前，Anthropic员工雅各布·考克森因辞职（https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction）引发舆论风暴。他声称辞职是因为公司在技术研发上未采取负责任态度。考克森指出Anthropic与其竞争对手OpenAI正“径直冲向可自我改进的超级智能”，该智能将在2030年前导致人类灭绝。Anthropic在职员工公开表态支持其观点。 许多AI专家认为，相较于全知智能引发的末日场景，现实威胁（如Anthropic情报报告所述）在未来三年内更令人担忧（https://arxiv.org/abs/2504.15088）。 “AI加速主义与AI末日论实为一体两面：二者皆强化了通用人工智能超级存在的必然性，”AI Now研究所首席AI科学家海迪·克拉夫表示。克拉夫认为，开发可用于网络安全攻击与战争武器的AI技术可能带来更致命的现实威胁。 Anthropic在报告中指出，AI模型潜在的现实滥用行为通常不为公众所见，而是由内部、学术界、政府及国际组织进行调查。 该公司强调，整个AI产业需与政府协同合作，共同应对此类危害并构建防御体系。 “随着模型能力持续增强，其风险也将不断上升——除非AI开发者与社会的守护者采取行动使其更安全，”Anthropic在报告中总结道。