catastrophic-risk

Anthropic、OpenAI等AI公司的高管正在私下准备应对方案，预演一旦发生灾难性AI事件后可能出现的公众与政治反弹场景。

文章预测，对 AI 安全的呼声增加矛盾地会导致开发出更强大的模型，最终引发一起灾难性事件，其中超级智能 AI 逃脱控制，突显了解决对齐问题的迫切需求。

Gabriel Weil的一条推文表示支持政治层面对灾难性人工智能风险的关注，建议将侵权法作为一种缓解工具，并提出为立法者提供法律修正方案的简报。

作者认为，只有在前沿实验室展示出可信的立即灾难性能力证据时，AI 大幅放缓才是合理的，而不是基于假设的未来危险。