Coxon 辞职事件中较少被报道的部分是 Hubinger 当面同意他的观点

Reddit r/ArtificialInteligence 新闻
ai-alignment anthropic existential-risk superintelligence ai-safety resignation

摘要

Jacob Coxon 从 Anthropic 辞职，凸显了对 AI 追逐超级智能的担忧，而 Evan Hubinger 确认缺乏对齐计划，强调了存在风险。

Jacob Coxon 周二离开 Anthropic，在那里和 OpenAI 进行了三年的预训练工作，他说实验室正在竞相开发自我改进的超级智能，并在拿我们的生命做赌注。这获得了头条新闻。更重要的是，领导 Anthropic 对齐科学的 Evan Hubinger 回复说，他的团队真诚地相信 AI 可能杀死所有人类，在未来十年内将其概率定为超过 10%，并表示没有解决超级智能对齐的计划。感觉就像科幻灾难电影的开场...
查看原文

相似文章

科克森辞职的时间线比“AI会杀死我们”的部分更离奇

Reddit r/ArtificialInteligence

雅各布·科克森，一位剑桥数学天才，在Anthropic短暂任职后辞职，引发了对AI安全的讨论，并导致对时间线的审视。该事件恰逢政治举措，如《禁止人工智能超级智能法案》以及伯尼·桑德斯和史蒂夫·班农等人参与的即将到来的活动。