@anselmlevskaya: 我曾亲手构建DNA合成仪和测序仪。我过去靠工程病毒谋生。我以前曾工程人类……

X AI KOLs Following 新闻

摘要

这篇文章讨论了DNA合成供应链中的安全漏洞,并基于IFP的战略报告,倡导强制筛查以缓解AI赋能的生物恐怖主义风险。

“好吧,DNA合成公司对他们构建的序列有安全措施。” 错误,只有一部分公司这样做,而你只需要找到一个已知不对订单进行筛查的公司,就能获取所需的DNA。 另外,是的,足够先进的AI可以设计出足够新颖的病毒来规避检测。 如果你感兴趣,这里有更多信息:https://ifp.org/how-to-secure-the-dna-supply-chain/…
查看原文
查看缓存全文

缓存时间: 2026/09/16 09:55

“好吧,DNA合成公司对他们合成的序列设有安全防护措施。” 这种说法是错误的。实际上只有一部分公司这样做,而且你只需要找到一家已知不审查订单的公司就能获得所需的DNA。 同时,足够先进的AI确实可能设计出新型病毒,从而规避检测。 如果你有兴趣,可以在此了解更多相关信息:https://ifp.org/how-to-secure-the-dna-supply-chain/…


如何保障DNA供应链安全 | IFP

来源:https://ifp.org/how-to-secure-the-dna-supply-chain/ 本文是《启动序列》(https://ifp.org/the-launch-sequence/)的一部分,该合集旨在通过具体、宏大的构想帮助世界为先进AI做好准备。本文并非某个具体项目提案,而是一份领域战略指南:它阐述了特定领域的关键挑战以及解决这些挑战的优先项目。这些项目的实施需要人才加入。欢迎联系。 (https://airtable.com/app6scuWYbynmQfMP/pag8ubIt0sy01ne7H/form)

执行摘要

随着廉价、可靠的DNA合成技术的出现,人类已成功将生命基本构件的制造掌握在自己手中。这对科学和人类繁荣的意义令人震撼:商业DNA合成已让患者得以促使自身癌症进入缓解期(https://centuryofbio.com/p/sid)。但同样,这些加速正当研究的要素也使得制造危害变得更加容易:2002年,当微生物学家从头合成脊髓灰质炎病毒基因组(http://science.org/doi/pdf/10.1126/science.1072266)时,耗资30万美元;而按当今商业价格,所需材料成本不足1000美元(https://www.synthesis.cc/synthesis/2022/10/dna-synthesis-cost-data)。

本报告旨在为政策制定者、创始人和资助者提供一份领域指南,以确保先进的DNA合成技术能持续便利地服务于正当用途,同时防止不良行为者利用该技术引发全球大流行。我们的建议基于以下发现:

  1. **合成DNA是当前生物威胁链中最具杠杆效应的关键节点。**几乎所有制造具备大流行能力病原体的途径都依赖合成核酸,而复杂基因合成的供应链集中在少数供应商和国家。
  2. **约80%的商业DNA合成供应商参与审查订单,才能显著降低风险。**只要哪些供应商参与审查、哪些不参与保持策略上的模糊性,即使审查覆盖率低于100%,也能通过威慑、阻止和监控不良行为者而有效发挥作用。
  3. **二十年来(https://aspr.hhs.gov/S3/Documents/Final_NSABB_Report_on_Synthetic_Genomics.pdf)推动自愿措施,未能实现必要的审查覆盖率和有效性。**多项红队演练研究表明,坚定的行为者目前可以通过将订单路由至完全不审查或审查不力的供应商,来获取危险序列。
  4. **强制审查获得广泛支持。**世界各地(https://www.reuters.com/legal/litigation/us-lawmakers-introduce-bill-screen-sales-potentially-dangerous-synthetic-dna-2026-02-04/)(https://health.ec.europa.eu/publications/proposal-regulation-establish-measures-strengthen-unions-biotechnology-and-biomanufacturing-sectors_en?)(https://www.gov.uk/government/publications/uk-screening-guidance-on-synthetic-nucleic-acids/uk-screening-guidance-on-synthetic-nucleic-acids-for-users-and-providers)的政策制定者都提出了常识性政策,这些政策将使我们稳步迈向全球范围内的广泛审查与记录保存。在一个罕见的共识时刻,几位顶尖的技术高管和生命科学研究者——从2024年诺贝尔化学奖得主大卫·贝克到OpenAI首席执行官山姆·奥特曼——最近在一封公开信(https://screendna.org/)中呼吁国会将审查设为强制性要求。

强制审查政策是首要且最重要的一步,但仅是所需广泛防御措施的一部分。我们提出以下胜利条件:

  1. **覆盖范围:**超过80%提供合成DNA或台式设备的公司同时审查订单和客户。
  2. **策略性模糊:**政策和信息披露保持足够的不确定性,使不良行为者无法轻易识别哪些供应商可能放行订单。
  3. **可及性:**正当客户获取基因材料保持低成本、低摩擦。
  4. **有效性:**90%的供应商能在现实的红队演练场景中正确识别关注序列。

通过果敢而紧迫的行动,我们看到了在AI加剧的生物风险变得严重之前,及时保障DNA供应链安全的路径。下面,我们将概述实现这些目标所需启动的路线图。我们现在需要政策制定者、慈善家、创始人、运营者和技术专家来构建这些项目,以保障DNA供应链安全。

动机:为防御争取时间

直到最近,唯一的DNA供应链就是大自然本身:如果你想获得某种病原体的基因组,你需要该病原体本身。但如果你曾经将埃博拉病毒基因组的一个短片段寄到你的联合办公空间办公室而未被提出任何疑问——就像我们去年所做的那样——你就知道情况已不再是这样。

随着廉价、可靠的DNA合成技术的出现,人类已成功将生命基本构件的制造掌握在自己手中。这对科学和人类繁荣的意义令人震撼:商业DNA合成已让患者得以治愈自身癌症(https://centuryofbio.com/p/sid),也让美国疾病控制与预防中心能够构建(https://www.statnews.com/2019/07/09/lacking-ebola-samples-cdc-made-a-synthetic-virus-to-test-treatments-it-worked/)埃博拉病毒的合成版本,以更快地测试现场使用的治疗方法是否有效。

但同样,这些加速正当研究的要素也使得制造危害变得更加容易:2002年,微生物学家从头合成(https://science.org/doi/pdf/10.1126/science.1072266)了脊髓灰质炎病毒基因组。当时耗资30万美元;而按当今商业价格,等效的基因材料成本不足1000美元。

与此同时,我们正接近这样一个临界点:AI使得更广泛的人群(https://www.governance.ai/research-paper/dual-use-ai-capabilities-and-the-risk-of-bioterrorism-converting-capability-evaluations-to-risk-assessments)能够执行复杂的生物工作流程。一旦生物工程变得广泛可及,我们就进入了一个风险窗口:生物攻击能力在我们建立起消除大流行风险的防御体系之前就已经普及。

防御性对策(如疫苗、单克隆抗体和个人防护装备)提供了长期解决方案,但即使在AI加速的研发下,其开发和部署也需要数年时间。技术采用曲线常常令人警醒(https://ourworldindata.org/technological-change);即使是历史上最快的全球新冠疫苗接种(https://www.cgdev.org/blog/covid-19-vaccine-rollout-was-fastest-global-history-low-income-countries-were-left-behind)——也使低收入国家等待了两年多才获得充分覆盖。

向数十亿人部署对策极有可能陷入(https://www.youtube.com/watch?v=GT_sXIUJPUo)审批流程或公众态度等瓶颈,这些瓶颈可能需要数年才能解决。如果生物攻击在近期发生,我们的应对策略将与全球新冠响应惊人地相似:撤退、封锁,并等待对策在一个又一个人群中广泛应用。

在加速防御的同时,我们需要通过塑造AI-生物学发展(https://jassipannu.substack.com/p/part-1-shaping-ai-progress-for-biology)来争取时间,有选择地提高(https://helentoner.substack.com/p/nonproliferation-is-the-wrong-approach)生物技术滥用的门槛,并延迟不良行为者获得最危险的能力。目前,最有希望的干预点是合成DNA。DNA订单提供两条重要信息:订购内容和订购者身份。通过审查序列内容和客户身份,供应商可以在发货前阻止危险订单,并向执法部门报告可疑行为者。

尽管具有有利特性,但DNA合成安全在许多方面仍是一个被忽视的问题:据我们统计,全球全职从事该工作的人数不足50人。然而,我们有一个可行的战略计划来保障DNA供应链安全,并有一条可信的路径能快速取得关键性胜利。

为何合成DNA是生物安全的关键节点

病毒本质上是一段包裹在蛋白质外壳中的遗传密码。许多病毒基因组出奇地短:导致数百万人死亡、给全球经济造成数万亿美元损失的SARS-CoV-2病原体,其序列长度仅为30,000个碱基,大约是人类基因组30亿碱基对长度的十万分之一。

这种简洁性也使得从头构建病毒成为可能。这主要需要两样东西:通常是可在网上免费获取的基因组数字序列,以及用于物理重构它的合成DNA(https://ifp.org/preventing-the-misuse-of-dna-synthesis/)。通过订购合成DNA片段并按正确顺序拼接它们,研究人员——或不良行为者——无需自然样本就能产生活性病毒基因组。

除了重构已知的脊髓灰质炎等病原体,科学家现在还能设计新型病原体。去年,研究人员使用基因组语言模型Evo 2设计(https://www.biorxiv.org/content/10.1101/2025.09.12.675911v1)了有活性的噬菌体(感染细菌的病毒)。其中一些有效的噬菌体与我们已知的任何病毒在遗传上差异巨大,以至于可以(https://press.asimov.com/articles/ai-phages)被认定为新物种。随着AI模型的持续改进,潜在威胁的范围和能够执行它们的人群都将扩大。

但几乎所有这些通往生物危害的途径都经过同一个瓶颈:商业DNA合成。无论是人工重构已知病原体还是设计新型病原体,几乎总是需要合成DNA。这使其成为防御者的天然关键节点。

与研究伙伴2一道,我们花了数月时间评估了生物威胁链中从移液器到生物安全柜的200多个替代干预点。没有一个被证明比合成DNA更有前景,原因有三:

  1. **制造具备大流行能力的病原体几乎总是需要合成DNA。**许多其他输入物仅限于一类狭窄的威胁:如果我们限制对特定动物模型(如用于冠状病毒的人源化ACE2小鼠)的访问,不良行为者只需转向不需要它们的其他病原体。合成DNA更难被绕过,因为它位于几乎所有工程途径的上游。
  2. **与移液器或培养皿等常见实验室设备相比,DNA序列在推断意图方面具有更高的信噪比。**每份DNA订单包含两条信息:客户身份和订购的序列。客户审查理论上可用于所有产品。而序列审查则专属于合成DNA,可以直接揭示某人是否在订购天花病毒片段或荧光蛋白基因。
  3. **基因长度的DNA仍然是一种难以商品化的产品。**基因治疗等前沿应用需要极低的错误率,这只能通过复杂的化学或酶学方法及质量控制流程来实现。这种技术复杂性意味着市场集中在相对少数的公司。全球约有200家基因合成供应商,其中大多数集中在少数几个国家:美国(占基因长度供应商的25%)、中国(33%)和欧盟(11%)。与可以用现成成分临时制备的常见实验室试剂3不同,商业基因长度合成无法轻易在家庭中替代或复制。

胜利条件:保障DNA合成安全所需做到的事

我们提出以下2030年前应实现的胜利条件:

  • **覆盖范围:**超过80%提供合成DNA或台式设备的公司同时审查订单和客户。
  • **策略性模糊:**政策和信息披露保持足够的不确定性,使不良行为者无法轻易识别哪些供应商可能放行订单。
  • **可及性:**正当客户获取基因材料保持低成本、低摩擦。
  • **有效性:**90%的供应商能在现实的红队演练场景中正确识别关注序列。

为此,我们需要实施两件事:

  1. 政府在覆盖绝大多数DNA供应商的少数关键司法管辖区强制实施审查和记录保存要求。
  2. 构建支撑全球审查的基础设施,包括可负担的客户身份识别(KYC)实践系统与机构、标准、第三方红队演练以及台式合成仪的安全保障。

我们提出的80%覆盖目标基于一个假设——该假设定性上植根于访问控制机制,定量上基于我们的威胁建模——即即使部分覆盖也能带来实质性的安全保障。认为一个不审查的供应商就能抵消其他所有供应商努力的“最薄弱环节”直觉,误解了该领域的访问控制机制。

许多(https://www.tandfonline.com/doi/full/10.1080/25741292.2020.1725366)技术治理分析狭隘地关注“阻止”:系统是否在交易点捕获并阻止了不良行为者?仅凭这一指标评判,KYC常常显得无效。但“阻止”只是一个成熟审查系统所依赖的三种机制之一。威慑和监控至少同样重要,并且与“阻止”一起,使得部分覆盖远比“最薄弱环节”框架所暗示的更为有力。

机动车盗窃的动态变化有助于说明威慑、阻止和监控的复合效益。在20世纪80年代和90年代,美国城市开始采用LoJack,一种隐藏的无线电发射器,允许警方追踪和找回被盗车辆。由于该设备从外部无法看到,潜在的窃贼无法判断哪些汽车受到了保护。在引入LoJack的城市,即使只有不到2%的汽车安装了该设备,汽车盗窃案也急剧下降(https://academic.oup.com/qje/article-abstract/113/1/43/1892067)。而当窃贼确实瞄准了装有LoJack的汽车时,信号直接引导警方找到他们,常常捣毁整个犯罪团伙。

LoJack使汽车盗窃成为一项根本上更糟糕的选择。DNA审查可以发挥同样的作用。无法判断哪些供应商进行审查的攻击者,要么下单冒险触发调查,要么干脆不尝试。只要审查方与非审查方之间存在模糊性,有效的审查就不需要100%的覆盖率来大幅改变攻击者的算计,从而改变其行为。

至关重要的是,我们需要设计干预措施来保持这种模糊性。人们可能倾向于公开列出进行审查的供应商——本意是作为商业激励——但这恰恰会暴露哪些供应商需要被绕开。国家强制令则反其道而行:一旦某个司法管辖区被要求进行全面审查,不良行为者就必须假设在该区域运营的任何供应商都可能进行审查,即使合规情况并不完美。而在没有强制令的国家,一些供应商自愿进行审查(正如现在这样),因此不良行为者不能安全地假定任何一家供应商不审查。

相似文章

AI创造出首批合成病毒

Reddit r/ArtificialInteligence

AI已创造出首批合成病毒,这是合成生物学的一项重大突破,同时也引发了生物安全方面的担忧。