人工智能与生物安全：能力、威胁途径与纵深防御治理

arXiv cs.AI 论文
ai-biosecurity biosecurity ai-safety governance large-language-models biological-threats

摘要

本文综述了人工智能在生物学研究中的能力及其相关的生物安全风险，倡导采用纵深防御治理来减轻威胁，同时保留有益用途。

arXiv:2609.16213v1 Announce Type: new 摘要：人工智能正在重塑日益连接的数字到物理工作流中的生物学研究。通用大型语言模型可以检索和整合科学信息，支持实验规划和计算分析；生物学基础模型可以预测、优化和生成蛋白质、基因和基因组规模序列；代理系统可以协调多步骤研究任务；自动化实验室可以部分闭环设计-构建-测试-学习循环。这些技术可能极大造福医学、公共卫生和生物技术。然而，其生物安全风险不仅取决于AI能做什么，还取决于谁使用它、他们的专业知识和意图、他们对实验室工具和材料的访问权限以及现有的保障措施。当前证据表明，AI提升存在，但主要影响数字任务而非物理任务。前沿系统在计算机模拟和筛选规避基准上已超过专家基线，而受控湿实验室研究发现，隐性知识和物理执行仍是主要障碍。本综述描述了AI工具使用带来的不同生物学威胁，从信息收集和生物设计到采购、合成、测试、扩大规模和潜在释放。我们进一步探讨了为什么通用模型的对齐技术难以转移到生物学模型，以及可解释性在审计危险能力是否真正被移除方面日益重要的作用。我们主张采用纵深防御治理，将能力阈值与生物AI生态系统中的相应责任联系起来，在保留有益用途的同时降低高后果风险。
查看原文
查看缓存全文

缓存时间: 2026/09/16 08:57 

# 人工智能与生物安全：能力、威胁途径与纵深防御治理
来源：https://arxiv.org/abs/2609.16213
查看PDF (https://arxiv.org/pdf/2609.16213)

> 摘要：人工智能正在重塑日益互联的数字到物理工作流中的生物研究。通用大语言模型能够检索与整合科学信息、支持实验规划与计算分析；生物基础模型可预测、优化并生成蛋白质、基因及基因组尺度序列；代理系统能协调多步骤研究任务；自动化实验室可部分闭合设计-构建-测试-学习循环。这些技术将极大造福医学、公共卫生与生物技术领域。然而，其生物安全风险不仅取决于人工智能的能力，还涉及使用者身份、其专业知识与意图、对实验室工具与材料的获取途径，以及现有保障措施。现有证据表明，人工智能的增益效应确实存在，但主要影响数字任务而非物理任务。前沿系统在计算模拟与筛选规避基准测试中已超越专家水平，而受控湿实验室研究表明，隐性知识与物理执行仍是重大障碍。本综述阐述了人工智能工具使用带来的不同生物威胁，涵盖信息收集、生物设计、采购、合成、测试、放大及潜在释放等环节。我们进一步探讨了通用模型的对齐技术为何难以迁移至生物模型，以及可解释性技术在审计危险能力是否被真正移除方面日益重要的作用。我们主张建立纵深防御治理体系，将能力阈值与生物人工智能生态系统中相应的责任关联起来，在保留有益用途的同时降低高后果风险。

## 提交历史

发件人：Ilias Georgakopoulos\-Soares \[查看邮件 (https://arxiv.org/show-email/38946c77/2609.16213)\] **\[v1\]** 2026年9月14日 周一 18:44:00 UTC \(1,718 KB\)

相似文章

为生物学领域的未来AI风险做准备

OpenAI Blog

OpenAI发布了一套管理高级AI模型在生物领域的两用风险的综合方案，通过专家协作、模型训练、检测系统和安全控制等策略，既能推动有益的科学发现，又能防止其被滥用于生物武器开发。

人工智能与全球安全

Reddit r/ArtificialInteligence

本文讨论了人工智能对全球安全的影响，涵盖了人工智能在战争、网络安全以及国际政策考虑等方面的内容。

为AI的恶意使用做准备

OpenAI Blog

OpenAI与领先研究机构合作共同撰写了一份综合论文，预测AI可能被恶意使用的方式并提出缓解策略。该研究强调承认AI的双重用途特性、借鉴网络安全实践，以及扩大围绕AI安全风险的利益相关者讨论。