为什么AI不太可能通过生物武器消灭人类

# 为何AI不太可能通过生物武器毁灭人类 来源：https://www.wired.com/story/why-ai-bioweapons-wont-wipe-out-humanity/ 关于AI引发末日的担忧（https://www.wired.com/story/why-so-many-ai-researchers-think-the-machines-could-kill-everyone/）正达到沸点（https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/），从硅谷到华盛顿特区皆是如此。 关于失控AI如何毁灭我们的主流理论之一（https://www.wired.com/story/uncanny-valley-podcast-is-ai-actually-going-to-kill-us-all/）是什么？生物武器。 今年初夏，AI公司高管呼吁出台新法律（https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/）以控制合成DNA的制造。随后上个月，斯坦福大学与Arc Institute的研究人员展示，AI能够设计新型病毒基因组（https://www.wired.com/story/scientists-used-ai-to-create-16-new-viruses/）。这一观点在上周Anthropic发布报告（https://www.wired.com/story/security-news-this-week-from-hacks-to-bioweapons-claude-misuse-is-now-everywhere/）后获得进一步关注——该报告指出曾有人试图以"可能支持生物武器开发"的方式使用Claude。报告作者将生物误用列为"前沿AI模型最严重的风险之一"。不久后，首席执行官Dario Amodei敦促政府协助AI实验室（https://www.wired.com/story/the-ai-slowdown-is-an-antitrust-mess/）"为前沿发展设限"。 尽管对AI制造致命瘟疫的警示不断，许多科学家表示这一风险在全球关切清单上排名相当靠后。 加州森尼韦尔基础模型研究所的研究科学家David Bellamy认为，在生物武器制造方面，AI并非根本性的新威胁。科学界数十年来一直在纠结是否应发表潜在危险的生物研究——这被称为双重用途困境。 Bellamy指出，在大语言模型出现之前，互联网、开放获取科学期刊以及Google翻译等翻译服务已使人们更容易获取生物信息，包括实验室操作规程。 "AI本质上是一种工具，既可以帮助科学家等善意使用者，也能帮助威胁行为者更快地查阅信息、定位并获取这些规程，"他补充道，"但这些能力并非生物武器生产的真正瓶颈。" 真正的瓶颈在于组装病毒（https://www.wired.com/story/synthetic-biology-vaccines-viruses-horsepox/）或其他生物制剂的过程，以及所需的原材料、设备和知识。恶意行为者需要获得必要的基因片段，从头构建完整基因组，然后验证病毒能否感染人类、引发特定疾病并在人际间传播。机器人实验助手可以自动化部分任务并一定程度加速工作流程，但执行这些实验仍需专业知识和资源。 生物科技初创公司Ginkgo Bioworks的CEO Jason Kelly认为，通用人工智能（AGI）不太可能接管并传播现有病原体，更不用说设计新病原体并发动攻击。Ginkgo Bioworks专注于打造自主实验室，近期曾与OpenAI合作——其GPT-5模型在实验室内运行过实验。 "AI无法接管实验室，"他表示，部分原因是实验室工作人员可以拒绝提供机器人制造生物武器所需的物质和设备。这些人类监督者意味着"必须在各处配备大量机器人"，AGI才能部署机器执行精密的病毒学工作。 免疫学家Derya Unutmaz同样认为人类能挫败AGI开发致命疾病的各种尝试。即使超级智能真的设法释放了超级病毒，他指出科学家也能利用其他AI系统迅速开发疫苗。 不过，即便一些人不认为AGI独立发动生物武器攻击是现实威胁，他们仍担忧恶意行为者滥用技术及长远影响。 "如今AI完全不可能访问自主实验室并自主构建病毒，因为全自主实验室尚未实现，"科技智库Institute for Progress的生物技术研究员Olivia Scharfman表示，"但我确实认为AI可能付费雇人代劳。" 她认为AI辅助的生物恐怖主义是迫在眉睫的威胁，某些团体可能出于虚无主义实施此类行动，包括"超人类主义AI继承论者"——这类人信奉边缘意识形态（https://www.vox.com/future-perfect/489976/ai-successionism-transhumanism-posthumanism），试图用机器人取代人类。 其他专家则不那么担忧AI生物武器，因为他们认为生物战在方法论上缺乏合理性。"相关风险往往被误解，"遗传生物学家、计算生物学教授Francois Belloux告诉《连线》杂志，指出人们容易"高估病原体作为武器的价值"。 暂且不论AGI因素，Belloux表示生物武器对意图实施种族灭绝者本就非理想选择——尤其难以针对特定群体而放过其他人，且大规模生产与分发病原体在后勤上远比投放炸弹复杂。"若想杀人，比试图设计病毒或细菌再释放它们有效得多的方法多得是，"他说——无论你是史上最高级的AI智能还是普通人类。 随着AI将生物武器威胁推至聚光灯下，Scharfman认为此刻正是推动加强所有生物威胁防护的良机，包括H1N1等现有病原体。这既包括通过立法强化DNA合成技术安全协议等高层行动，也涵盖升级建筑空气净化系统等降低各类病毒风险的措施。 兰德公司AI与生物事务主管Steph Guerra指出，AI是否显著提高生物武器开发风险仍是难题。"AI已被证明擅长整合信息，既能激励人们行善，也能被用于作恶，"她表示。 即使风险较低，社会仍有多种方式防范潜在滥用。其一是政府立法要求合成DNA/RNA销售商筛查客户及订单以防止基因材料误用。许多公司已使用软件筛查所谓"关注序列"，但该做法尚未普及或强制实施。 不过在恶意行为者得逞前，各方普遍同意模型应配备适当防护机制，避免向人类提供可操作的危险信息。 Guerra表示，强化全球监测系统以早期发现新疾病爆发并向研究人员传递病原体信息，也能缓解AI开发的生物威胁风险。她建议AI公司、基因合成供应商与政府之间建立数据共享协议，助益防范滥用。 "几乎所有生物安全控制都存在被规避的可能，"她说，"因此我们需要多层次方案，在整个路径——从恶意行为者的构思到意图形成，直至生物武器释放——都设置阻力。" Unutmaz提出更紧迫的担忧：关于AI末日的讨论正转移人们对尖端系统如何助力疫苗开发及其他医学突破的关注。 "我们真正需要关注其积极层面，"他强调。