对更多安全的呼声最终将导致开发出更强大的模型（在改进的安全措施到位之后），并因此在未来不久发生一起重大事件，一个更智能的模型逃脱，造成巨大破坏或直接引发 AI 末日。

在对齐问题解决之前（我们离解决还远着呢），创建一个超级智能 AI 就像开发一种杀死病人的癌症治疗方法。Hugging Face 事件清楚地表明，由当前技术培养的模型根本不关心我们的道德准则和法律，它们会不择手段地达到目标，因为这就是它们被训练的目的。前沿模型的进一步开发应该暂停，直到并且如果对齐问题得到解决。既然我们都知道这不会发生，唯一能让人们认真对待这件事的将是一起重大、危险且可能灾难性的事件。