呼吁禁止合成氨基酸序列是另一个例子——AI行业治理与疫情前病毒学如出一辙，结果也会相似

Reddit r/singularity 新闻
ai-governance biosecurity safety-theater gain-of-function risk-analysis self-regulation

摘要

文章批评AI公司的生物武器防范措施是‘安全剧场’，将其与疫情前的病毒学自我监管类比，并预测类似的失败和精英推卸责任。

我注意到AI公司关于他们为防止聊天机器人教人制造生物武器而采取的各种预防措施有很多讨论。看起来联合呼吁禁止DNA合成又是这种所谓担忧的一个例子。我觉得这很奇怪，因为在其他大多数领域安全往往被低估，于是我开始研究这个问题。我认为这种风险被严重夸大了，尽管并非不可能。我认为这是‘安全剧场’，目的是转移人们的注意力，使人们忽视整个行业运行在疫情前病毒学所使用的相同自我监管模式上。我试图通过对比病毒学（特别是功能增益研究）和AI研发来探讨这些结构性问题。更大的论断是，我们可以预期会发生泄漏，并且预期精英们会以同样的方式反应（保护自己，将责任推给批评者，继续做他们喜欢做的事）。如果能有反馈，特别是来自这两个领域的工作者，将不胜感激。[https://tamingcomplexity.substack.com?utm\\_source=navbar&utm\\_medium=web](https://tamingcomplexity.substack.com?utm_source=navbar&utm_medium=web)
查看原文

相似文章

AI创造出首批合成病毒

Reddit r/ArtificialInteligence

AI已创造出首批合成病毒，这是合成生物学的一项重大突破，同时也引发了生物安全方面的担忧。

2026年的生物防范准备

Reddit r/singularity

本文警告称，当前及未来的人工智能模型显著降低了制造生物武器的门槛，引用了对开放权重模型的蒸馏攻击以及无法防止安全消融的问题。文章呼吁公共资金资助广谱应对措施作为必要回应。