科克森辞职的时间线比“AI会杀死我们”的部分更离奇
摘要
雅各布·科克森,一位剑桥数学天才,在Anthropic短暂任职后辞职,引发了对AI安全的讨论,并导致对时间线的审视。该事件恰逢政治举措,如《禁止人工智能超级智能法案》以及伯尼·桑德斯和史蒂夫·班农等人参与的即将到来的活动。
快速回顾,因为报道一直很草率。雅各布·科克森今年27岁。剑桥数学背景,有IMO奖牌。大约三年的预训练经验,先在OpenAI从事GPT-4o相关工作,然后在Anthropic。Anthropic花了大约两年时间招募他。他大约在五月加入。他在四个月后辞职,就在六个月归属期之前,因此他放弃了未归属的Anthropic股票。他仍持有OpenAI的股权。Axios已确认。他并非安全负责人。当WIRED询问Anthropic是否已在走捷径时,他说还没有。他的观点是关于竞赛,而非泄露的评估或掩盖。埃文·胡宾格(对齐科学负责人,仍在职)回应说雅各布是对的,内部人员确实认为这可能杀死所有人,他个人认为十年内风险超过10%。这一确认正是此事比随意辞职帖更具冲击力的原因。现在说说标题跳过的内容。他当前的X账户@hilbertspaess创建于2026年1月21日。在辞职帖之前几乎没有公开帖子。该帖子获得了超过1亿次浏览,并在一天内增加了约19万粉丝。科克森后来告诉CNN,他与一位朋友起草了帖子,与朋友讨论措辞,并请朋友转发,因为他希望它稍微走红。他说他没想到会这样。《华尔街日报》在他X帖子发布前约18分钟发布了独家报道,引用他的话。最初10-15分钟内的首次引用推文大多是AI政策人士,包括丹尼尔·科科塔约洛和彼得·维尔德福德。伯尼·桑德斯和格雷格·卡萨尔议员于9月3日宣布了《禁止人工智能超级智能法案》。永久禁止超级智能,在监管机构制定规则前暂停高级开发。科克森的帖子发布于9月8日/9日。桑德斯当天转发了他的帖子,并说这就是他将提出立法的原因。该法案已提前宣布。2022年,科克森获得了Good Ventures(莫斯科维茨)的长期未来奖学金。莫斯科维茨资助了许多AI安全倡导活动,也是Anthropic的投资者。科克森还参加了2021年伦敦的Newspeak House研究员计划。这是一个公民科技/政治技术学院。他们接受了与有效利他主义相关的资金。杰里米·科尔宾多年前在那里发布了数字宣言。这是背景信息,本身并非把柄。Axios今日报道称,科克森、桑德斯和史蒂夫·班农将于周二在未来生命研究所的“亲人类集会”上发表演讲。所以你有:短暂任期、安静账户、采访先行、然后是帖子、接着是政策账号、再是已写好的法案、最后是与桑德斯和班农的策划活动。他确实放弃了未归属的Anthropic赠款。胡宾格独立地对风险数字说了同样的话。这两件事可能与看似计划好的推出同时为真。不确定我们该如何处理这些。好奇这里的人们更关注时间顺序而非灭绝线,因为灭绝线并不新鲜。
相似文章
Coxon 辞职事件中较少被报道的部分是 Hubinger 当面同意他的观点
Jacob Coxon 从 Anthropic 辞职,凸显了对 AI 追逐超级智能的担忧,而 Evan Hubinger 确认缺乏对齐计划,强调了存在风险。
@willchamberlain: 本周,Jacob Coxon 的 Anthropic 辞职帖在 X 上爆火,程度之大让许多人,包括 Elon M…
本文讨论了 Jacob Coxon 的 Anthropic 辞职帖如何揭露了 AI 末日论运动及其资金生态系统,批判了他们的信念和媒体影响力。
You Know That Anthropic Employee Who Quit Citing Risks to Humankind? These Strongly Appear to Be His Bizarre Old Tweets
网络侦探们发现了疑似属于前 Anthropic 员工 Jacob Coxon 的旧推文,其中包括否认气候变化的帖子及其他争议性言论——正是此人"AI 可能杀死我们所有人"的警告,曾推动了 AI 安全运动的兴起。
Anthropic研究员因‘失控’AI担忧辞职(5分钟阅读)
Jacob Coxon从Anthropic辞职,担忧行业追求自我改进的AI可能导致失控后果和人类灭绝。
@WSJ: Jacob Coxon辞去了工作——全世界都震惊了。一位匿名的数学天才如何成为AI末日的代言人。
一位名为Jacob Coxon的匿名数学家辞去了工作,成为象征AI末日的突出人物,引起了公众和媒体的广泛关注。