@VraserX：我认为这颠倒了最重要的问题。AI实验室里聪明人害怕……的事实是……

我认为这个问题把最重要的方面搞反了。

人工智能实验室内的聪明人对灾难性后果的担忧，恰恰是认真对待风险的理由，而非灾难最可能发生的确凿证据，更不能证明停止能力进步就能让人类更安全。

我们尚未证实当前系统的规模化发展会导致失控的递归自我完善超级智能，也不确定这样的系统必然会寻求权力、逃脱控制或充满敌意。这些都是值得深入研究的合理失败模式，但可能性不应被表述为必然趋势。

临时性能力禁令存在巨大缺陷：这暂停的不是物理学发展，而是仅限于同意暂停的参与者。

如果美国实验室停止研究，而透明度较低的国家、军事项目或其他行动者继续推进，我们可能恰恰会面临最担忧的结局——更强大的系统将在审查更少、可解释性研究更薄弱、安全约束更宽松的环境中诞生。

风险方程式的另一面几乎被忽视：先进人工智能能在医学、生物、清洁能源、材料科学、教育及科学发现领域带来前所未有的跨越式进步。延误这项技术的发展同样非道德中立——在停滞的岁月里，本可由更强人工智能帮助解决的疾病和问题将夺去更多生命。

理性的立场既非“盲目竞赛“，也非“冻结进步“。

应当在负责任的参与者保持前沿地位的同时加速发展，同时让评估体系、可解释性研究、安全机制、风险控制和国际协调建设以更快速度推进。

我之所以严肃对待人工智能风险，正是因为其影响深远。但存在主义恐惧不能成为替代证据的依据。

若人类确实在接近超级智能时代，应保持非凡谨慎。

同样也需谨慎思考“人类决不能达成超级智能“的命题。

诚然，我们必须解决全球最紧迫的难题，而通用人工智能是唯一途径。

超级智能最难的治理问题或许不在于防止它控制人类。

而在于防止少数人通过它控制所有人。