呼吁禁止合成氨基酸序列是另一个例子——AI行业治理与疫情前病毒学如出一辙，结果也会相似

Reddit r/singularity 新闻
ai-governance biosecurity safety-theater gain-of-function risk-analysis self-regulation

摘要

文章批评AI公司的生物武器防范措施是‘安全剧场’，将其与疫情前的病毒学自我监管类比，并预测类似的失败和精英推卸责任。

我注意到AI公司关于他们为防止聊天机器人教人制造生物武器而采取的各种预防措施有很多讨论。看起来联合呼吁禁止DNA合成又是这种所谓担忧的一个例子。我觉得这很奇怪，因为在其他大多数领域安全往往被低估，于是我开始研究这个问题。我认为这种风险被严重夸大了，尽管并非不可能。我认为这是‘安全剧场’，目的是转移人们的注意力，使人们忽视整个行业运行在疫情前病毒学所使用的相同自我监管模式上。我试图通过对比病毒学（特别是功能增益研究）和AI研发来探讨这些结构性问题。更大的论断是，我们可以预期会发生泄漏，并且预期精英们会以同样的方式反应（保护自己，将责任推给批评者，继续做他们喜欢做的事）。如果能有反馈，特别是来自这两个领域的工作者，将不胜感激。[https://tamingcomplexity.substack.com?utm\\_source=navbar&utm\\_medium=web](https://tamingcomplexity.substack.com?utm_source=navbar&utm_medium=web)
查看原文

相似文章

AI公司现在只是在戏弄世界

Reddit r/ArtificialInteligence

一篇对AI公司近期行为的批判性评论，指出它们对公众关切和道德标准越来越不屑一顾。