标签
Garry Tan 在回应一场讨论时引用并赞同了 Bostrom 的一句话,该观点认为:如果不建造超级智能,人类就会走向灭亡——而这场讨论本身质疑的正是 AI 对齐(alignment)中关于各方最终会趋向同一个"最佳未来"的假设。
埃隆·马斯克敦促阅读博斯特罗姆的《超级智能》,警告称人工智能可能比核武器更危险。