即使没有AI,也有充分的理由对生物武器研发感到担忧
摘要
Wired/Mother Jones的一篇专题报道指出,生物武器研发本身就构成严重威胁,与AI无关。文中引用了Anthropic关于用户试图绕过Claude护栏以进行功能增益研究的报告,以及Annie Jacobsen关于生物战的新书。
Annie Jacobsen在其关于生物战的新书中甚至没有讨论AI,因为科学家们已经能够扭曲大自然来制造灭绝级事件。
查看缓存全文
缓存时间: 2026/09/30 21:32
# 即便没有AI,也有充分理由担忧生物武器的研发——AI只是让它更容易
Source: https://www.wired.com/story/you-dont-need-ai-to-be-concerned-about-bioweapons-development-but-it-helps/
在她那本关于生物战的新书里,Annie Jacobsen 根本没有讨论AI,因为科学家早已能够扭曲自然,制造出灭绝级别的事件。
蘑菇云、防化服、生物危害、细菌 拼贴画
Photo-illustration: Jacqui VanLiew; Getty Images
*本文最初发表于 Mother Jones (https://www.motherjones.com/politics/2026/09/ai-anthropic-pandemic-biological-war-scenario-bioterrorism-annie-jacobsen-book-gain-function-research-pathogens-ethics/),属于 Climate Desk (https://www.climatedesk.org/) 合作报道的一部分。*
最近我们听到了太多关于AI可能导致人类灭绝的话题(https://www.wired.com/story/uncanny-valley-podcast-heres-what-the-ai-apocalypse-could-look-like/)。也许我们对AI智能的错误信任会引发第三次世界大战(https://www.wired.com/story/backchannel-anthropic-dispute-with-the-pentagon/)。又或者,AI智能体将释放大范围网络攻击(https://www.wired.com/story/ai-agents-could-act-like-computer-viruses-and-worms/),进而接管互联网。一旦被赋予过多自主权,机器就会失控。它们可能会欺骗创造者——等等,这已经发生了(https://www.wired.com/story/ai-models-lie-cheat-steal-protect-other-models-research/)。假如它们得出和《黑客帝国》里史密斯探员一样的结论:“人类……是一种瘟疫,而我们就是解药。”又或者,聊天机器人帮助坏人释放一场字面意义上的瘟疫——一件生物武器(https://www.wired.com/story/why-ai-bioweapons-wont-wipe-out-humanity/)。
最后这一个并非只是理论推演。本月早些时候,Anthropic 公布的一份“误用”报告详细记录了五起案例(https://www.anthropic.com/threat-intelligence-report-september-2026#biological-misuse-sep-26),其中外国科学家试图绕过 Claude 对“功能获得”类问题的防护栏。所谓“功能获得”,是指科学家对病原体的基因进行改造,使其在某些方面得到强化——比如更具传染性、更致命,或更擅长在哺乳动物之间传播。
Anthropic 拒绝了这些用户想要的答案并封禁了他们的账号,同时指出这些人的动机未必怀有恶意。这类信息同样可以用于帮助科学家研发针对大流行病的对策,比如疫苗和药物。麻烦就在这里。与包括AI在内的许多技术一样,基因工程(https://www.wired.com/story/designer-baby-companies-are-in-turmoil/)既可用于善,也可用于恶。于是又有了另一个委婉说法:“两用性”。
我曾学习成为分子生物学家,并且在AI进入所有人视野之前很久,就一直在报道功能获得研究的争论(https://www.motherjones.com/environment/2014/06/scientists-recreate-pandemic-flu-virus-spanish-flu-1918-yoshihiro-kawaoka/)。根据我的经验,研究高风险病原体的研究人员往往倾向于默认:发表研究成果总比不发表更好;弄清楚哪些遗传特性会让某种生物对人类构成威胁,这方面的研究也更值得去做——至于意外释放可能带来的灾难性后果,甚至蓄意释放,那就先顾不上了。
人类*真的*因为做了这些研究而过得更好吗?我对此心存疑虑。而读完 Annie Jacobsen 的最新著作后,我的疑虑更深了。我上次采访她(https://www.motherjones.com/politics/2024/03/interview-annie-jacobsen-nuclear-war-scenario/),是在她那本畅销书《Nuclear War: A Scenario》(https://bookshop.org/p/books/nuclear-war-a-scenario-annie-jacobsen/7bddf3d1edf02401?ean=9780593476116&bkshp-astro=t)出版之际。她的新书《Biological War: A Scenario》(https://bookshop.org/p/books/biological-war-a-scenario-annie-jacobsen/19e468e1bd74b47d?ean=9798217046034&aid=485&listref=july-28-new-releases&utm_source=google&utm_medium=cpc&utm_campaign=dsa_nonbrand&utm_content=%7Badgroupname%7D&utm_term=dsa-19959388920&gad_source=1&gad_campaignid=12440232635&gbraid=0AAAAACfld41swcwn0btpOlR3V0Ungc_oH&gclid=CjwKCAjwq8PVBhAKEiwA2i3SHQ926ojwgtuNFFVCu__VhYwmXpEz5fe0wD9lQtPHbS5wyxEYlF3xqBoCS20QAvD_BwE)于七月底出版,沿用了同样的模板。我知道你马上要问,没错,我确定*她*在鸡尾酒会上是个十足有趣的人。
Jacobsen 有数十年的高层国家安全报道经验,而关于她有一点无人能及——她拥有对现役与退役军方、政府官员及科学家的独特采访渠道。这些人整天思考的都是对人类的威胁,并推演一旦某某恐怖事件发生,政府会如何应对。
除了人类灭绝这个概念之外,她这两本书或许最可怕的地方,在于揭示了我们政府在准备与应对方面的局限。美国应对核战争的总体计划(https://www.motherjones.com/politics/2024/03/nuclear-war-scenario-book-siop-weapons-annie-jacobsen/)过去是、如今无疑仍是彻头彻尾的疯狂。至于生物战,剧透警告:事实证明我们根本无法防御它。(不用谢。)为兼顾篇幅与清晰度,我对我们的对话作了删节与编辑。
**MICHAEL MECHANIC:那么,Annie,既然核战争情景和生物战情景你都写过了,哪一个更让你夜不能寐?**
**ANNIE JACOBSEN:**我在书里重印的那份美国国防部文件,在讲大规模毁灭性武器威胁谱时,把核武器排在曲线的最顶端,因为它们最具毁灭性。但我真的非常惊讶地看到,生物武器紧随其后,位居第二。而且我相信,它们之所以成为*最大的总体威胁*,原因很大程度上与今天全世界正在讨论的话题有关:进入门槛极低,因此发生的可能性更高。
要拥有一枚核武器,你必须拥有武器级裂变材料,还得考虑把这些武器安全地储存在军火库中。你需要洲际弹道导弹、B-2 轰炸机、核潜艇。
**你必须是一个国家才行!**
没错。而一个拿着脏弹的恐怖分子,那完全是另一种威胁。让生物战变得极其危险、成为最大总体威胁的关键因素在于:负责管控环节的是仅有的九个拥有核武器的国家(https://www.wired.com/story/satellites-ai-nuclear-treaties/),可环顾世界,又有谁能接触到[潜在的大流行病原体]……
**几乎所有人。**
是的。这就令人毛骨悚然了。
**如果你是一名生物武器设计师,你会在病原体身上寻找什么?**
我的脑子不会这样想,因为我是位母亲,也是社会的一员。但如果我是一名*大流行病规划者* (https://www.wired.com/story/all-your-hantavirus-questions-answered-by-an-infectious-disease-expert/),让我最恐惧的会是“空气传播制剂”这个概念,以及公众对这一概念的天真无知。我会思考,让公众了解什么是真正的非凡威胁、什么不是,这件事有多重要。
**你的故事情节设定是:一件武器化的病原体从俄罗斯一座高安保级别实验室意外泄漏。根据你采访过的专家,意外泄漏与有人主动释放生物武器相比,哪一种可能性更大?**
意外泄漏被认为威胁要大得多,原因有几条。第一,我了解到中央情报局及其他情报机构在反扩散方面下了非常大的功夫,以破坏生物武器项目。至于知道中情局正在外面对付这些事情,能否让你晚上睡得更香,那是你自己的选择;但确实有过落于恐怖分子手中的生物武器项目被成功摧毁的案例。
我逐渐理解到的是:那些疯狂到敢把生物武器部署或释放到社区中的人,明知道后果将是巨大的反弹、会引发全球大流行,他们一定是求死之人。许多恐怖分子就属于这一类,所以这令人深感不安。但这毕竟只是较小的群体。
然后你再想想那些人——科学家、国家行为体、学术机构——他们在 BSL-3 和 BSL-4 实验室里改造病原体,使其更具毒力、更具传染性 [生物安全四级是最高安保等级]。我是说,全世界有 3600 座这样的实验室。而据我所知,恐怖组织并没有 3600 个。因此从统计上看,意外发生的概率要大得多。这就是为什么我的故事从实验室泄漏开篇,也是因为这种情况过去就发生过(https://www.lemonde.fr/en/science/article/2022/11/13/virology-a-timeline-of-lab-accidents-biological-attacks-and-increasingly-dangerous-experiments_6004113_10.html)。
**可以想象,某个研究人员在 BSL-4 实验室里被针头扎伤,惊慌失措,人毕竟是人,于是开始自欺欺人,然后直接回家了。**
百分之百会发生——而且*确实*发生过。书中还有其他例子,比如我在一小段历史介绍里写到的 [Nikolai] Ustinov,他被致命的马尔堡病毒(https://www.who.int/news-room/fact-sheets/detail/marburg-virus-disease)扎伤,这种病毒无药可救,而他做了“模范苏联科学家”该做的事——向上级报告自己,然后被留在隔离病房里,透过类似潜艇舱门的门,因出血热而痛苦地死去。意外就是会发生。
**你我都曾撰写过关于功能获得研究风险的文章,比如重建那种能在雪貂之间传播的流感毒株——老天保佑,万一那东西跑出来可怎么办。你在书中写道,正是在 9·11 之后,当有人到处邮寄炭疽的时候,风险最高的研究加速了。**
是的,而且我认为这里面很有意思。说到炭疽,人是“终末宿主”,意思是吸入它会致命,但它不具传染性。炭疽永远不会演变成一场大流行。它的目的是让人感到恐惧。但如果你谈论的是一种空气传播的病原体,情况就完全不同了。
那么快进到现在——有了[先进的]基因工程(https://www.wired.com/story/anthropic-says-it-discovered-a-crispr-like-system-now-what/)、有了功能获得研究、有了AI赋能的生物技术——你面对的局面是:在大流行潜力方面,一切皆有可能被摆上台面。你可以对东西进行微调。实验室里的科学家可以努力造出一种能够逃逸现有免疫力的病原体,就像小鼠痘实验(https://www.nytimes.com/2001/01/23/world/australians-create-a-deadly-mouse-virus.html)那样;也可以让某种东西变得能在空气传播,就像 H5N1 雪貂流感实验(https://www.motherjones.com/environment/2014/06/scientists-recreate-pandemic-flu-virus-spanish-flu-1918-yoshihiro-kawaoka/)那样。我们如今身处一个完全不同的世界。
**当年我打电话给那位流感研究人员时,他的傲慢让我吃了一惊:*当然,你必须发表这种极其致命的东西的基因序列*。他想都没想。这些人身上有某种傲慢。**
一种傲慢,或者说是精英主义,居高临下地对待外行,只因为他们不是科学家。仿佛因为他们不是科学家,就不能对国家安全或公共卫生做出决定。我觉得这极其令人警醒。我的情景类图书——无论是核战争还是生物战——影响最大的一点是:全球各地的领域专家,那些起草条约的人、梵蒂冈的枢机主教、联合国的外交官,都对我说:“谢谢你把这一切讲得如此简单易懂。”
**简单才有力!我很高兴你提到了AI,因为近来我们被各种关乎人类存续的担忧淹没,包括 Anthropic 的那份报告,有人利用 Claude 试图为生物武器研发提供帮助。你的书完全没有涉及AI。你的信源有没有严重担忧这项技术会进一步降低制造致命病原体的门槛?**
毫无疑问!我在书中刻意没有纳入AI赋能的生物技术,因为我想让读者看到,即使没有AI,一个科学家在实验室里对大自然的病原体稍作改造,就能引发一场接近灭绝级别的大流行,这是多么容易的事。但在致谢部分,我写到了“镜像生命”(https://www.wired.com/2010/11/ff-mirrorlife/) 这个极其可怕的概念——生物安全专家兼总统顾问 David Relman 向我解释过——有了它,你可以灭绝地球上所有人类。我写的是《Biological War: A Scenario》(《生物战:一种情景推演》),而不是《Biological War: The Worst Scenario》(《生物战:最坏情景推演》),想想后者就觉得相当疯狂。
有意思的是,我*在*书出版之后与那些领域专家的对话。不久前,位于马里兰州弗雷德里克堡(Fort Detrick)的 BSL-4 实验室主任 Nicholas Bergman 博士邀请我去该实验室,与员工做了一场问答。他告诉我,书一出版,电话就响个不停。那里工作的人每个人都在问:*这真的是真的吗?这会发生吗?*而他们接下来的问题是:*我们为什么不知道这件事?*
Bergman 博士对我说:“Annie,你把大家都心照不宣却无人开口的事说了出来。”所以我认为,AI赋能生物威胁以爆炸性的速度闯入我们的意识,是一件好事,因为它让人们开始关注那些无人开口的部分。
威胁一直存在,但你不会指望在这些实验室工作的人举旗示警。这不归他们管,他们也是这么向我解释的。他们的工作是研发对策。他们向我提出的问题,很多都是围绕AI赋能生物威胁的——他们想从我这里了解当下的时代风向。这场对话如今已经在超市里发生,也在最高层级的领域专家之间发生。
**你的书谈到理查德·尼克松总统当年单方面废弃了美国的生物武器项目。你的专家们相信我们已经不再有秘密项目了吗?**
生物武器是非法的,美国的立场非常明确。现任政府和前任政府的国务院都曾作出明确表态:俄罗斯和朝鲜拥有非法的生物武器项目,中国和伊朗拥有令人关切的项目——我把这理解为一种委婉说法。
**考虑到生物武器很可能反过来反噬制造者,蓄意释放似乎真的只能来自非国家行为体,也许他们并不太在乎自己是死是活。**
为了梳理出这些情景并理解它们会如何演变,我研究了五角大楼的生物战兵棋推演情景,也研究了大流行病规划者的非机密情景。前公共卫生官员和内阁级人物会聚集在一起做这些演练。书中我引用的一个演练名为 Glade X,参与者假设有一个生态恐怖组织对一种尼帕病毒(https://www.cdc.gov/nipah-virus/about/index.html)进行了基因改造,使其更具传染性。在这个情景里,生态恐怖分子的意识形态立场是:地球上人口太多,正在毁掉这颗星球,所以我们要减少人口。
**听起来就像《黑客帝国》里的特工:“人类是一种病毒。”**
大流行病规划者们会构想出这些非常戏剧化的情节,以此推演并理解这些情形将如何展开,而我的主要情节转折点,可以说,大多来自这里。
**你还从新冠疫情中借用了不少细节,包括“钻石公主”号邮轮上的疫情暴发,只不过你的病原体致命得多。**
是的。而且我在研究 Glade X 时震惊地得知……
相似文章
人工智能化学生物武器的幽灵:生物技术行业的警钟
这篇文章探讨了AI领域领导者们关于人工智能可能助推生物武器制造的风险警告,重点介绍了研究人员的关切以及在人工智能与生物技术发展中加强安全防护的必要性。
为什么AI不太可能通过生物武器消灭人类
文章讨论了AI被用于制造生物武器的担忧,但认为由于实际瓶颈和人类监督,风险较低,引用了David Bellamy和Jason Kelly等专家的观点。
人工智能可设计病毒、毒素及其他生物武器。我们应担忧到什么程度?
本文探讨了人们对人工智能工具可能被用于设计危险生物武器的日益增长的担忧,并引用了一项近期的中国芋毒设计研究作为生物安全风险与科学利益之间辩论的焦点。
NYT - Anthropic称其阻止了可能用于构建生物武器的行动
Anthropic声称已阻止了利用AI技术构建生物武器的潜在尝试,凸显了AI安全和负责任发展方面的持续关切。
Anthropic 详细描述了不良行为者试图滥用其AI制造生物武器的行为
Anthropic 发布了一份威胁情报报告,详细描述了各种行为者试图滥用其AI模型用于生物武器、间谍活动和其他恶意活动,强调了对健全保障措施的需求。