科克森辞职的时间线比“AI会杀死我们”的部分更离奇
摘要
雅各布·科克森,一位剑桥数学天才,在Anthropic短暂任职后辞职,引发了对AI安全的讨论,并导致对时间线的审视。该事件恰逢政治举措,如《禁止人工智能超级智能法案》以及伯尼·桑德斯和史蒂夫·班农等人参与的即将到来的活动。
快速回顾,因为报道一直很草率。雅各布·科克森今年27岁。剑桥数学背景,有IMO奖牌。大约三年的预训练经验,先在OpenAI从事GPT-4o相关工作,然后在Anthropic。Anthropic花了大约两年时间招募他。他大约在五月加入。他在四个月后辞职,就在六个月归属期之前,因此他放弃了未归属的Anthropic股票。他仍持有OpenAI的股权。Axios已确认。他并非安全负责人。当WIRED询问Anthropic是否已在走捷径时,他说还没有。他的观点是关于竞赛,而非泄露的评估或掩盖。埃文·胡宾格(对齐科学负责人,仍在职)回应说雅各布是对的,内部人员确实认为这可能杀死所有人,他个人认为十年内风险超过10%。这一确认正是此事比随意辞职帖更具冲击力的原因。现在说说标题跳过的内容。他当前的X账户@hilbertspaess创建于2026年1月21日。在辞职帖之前几乎没有公开帖子。该帖子获得了超过1亿次浏览,并在一天内增加了约19万粉丝。科克森后来告诉CNN,他与一位朋友起草了帖子,与朋友讨论措辞,并请朋友转发,因为他希望它稍微走红。他说他没想到会这样。《华尔街日报》在他X帖子发布前约18分钟发布了独家报道,引用他的话。最初10-15分钟内的首次引用推文大多是AI政策人士,包括丹尼尔·科科塔约洛和彼得·维尔德福德。伯尼·桑德斯和格雷格·卡萨尔议员于9月3日宣布了《禁止人工智能超级智能法案》。永久禁止超级智能,在监管机构制定规则前暂停高级开发。科克森的帖子发布于9月8日/9日。桑德斯当天转发了他的帖子,并说这就是他将提出立法的原因。该法案已提前宣布。2022年,科克森获得了Good Ventures(莫斯科维茨)的长期未来奖学金。莫斯科维茨资助了许多AI安全倡导活动,也是Anthropic的投资者。科克森还参加了2021年伦敦的Newspeak House研究员计划。这是一个公民科技/政治技术学院。他们接受了与有效利他主义相关的资金。杰里米·科尔宾多年前在那里发布了数字宣言。这是背景信息,本身并非把柄。Axios今日报道称,科克森、桑德斯和史蒂夫·班农将于周二在未来生命研究所的“亲人类集会”上发表演讲。所以你有:短暂任期、安静账户、采访先行、然后是帖子、接着是政策账号、再是已写好的法案、最后是与桑德斯和班农的策划活动。他确实放弃了未归属的Anthropic赠款。胡宾格独立地对风险数字说了同样的话。这两件事可能与看似计划好的推出同时为真。不确定我们该如何处理这些。好奇这里的人们更关注时间顺序而非灭绝线,因为灭绝线并不新鲜。
相似文章
Coxon 辞职事件中较少被报道的部分是 Hubinger 当面同意他的观点
Jacob Coxon 从 Anthropic 辞职,凸显了对 AI 追逐超级智能的担忧,而 Evan Hubinger 确认缺乏对齐计划,强调了存在风险。
@willchamberlain: 本周,Jacob Coxon 的 Anthropic 辞职帖在 X 上爆火,程度之大让许多人,包括 Elon M…
本文讨论了 Jacob Coxon 的 Anthropic 辞职帖如何揭露了 AI 末日论运动及其资金生态系统,批判了他们的信念和媒体影响力。
Anthropic研究员因‘失控’AI担忧辞职(5分钟阅读)
Jacob Coxon从Anthropic辞职,担忧行业追求自我改进的AI可能导致失控后果和人类灭绝。
刚刚辞去Anthropic工作的AI研究人员称这是‘人类的关键时刻’
AI研究人员Jacob Coxon从Anthropic辞职,并警告说接下来的一两年是AI安全领域‘人类的关键时刻’,敦促各方协调以防止先进AI系统带来灾难性风险。
@rohanpaul_ai: 在CNN上,Dario Amodei终于就Jacob Coxon超过1.66亿次浏览的超级病毒式推文发表了评论(这位前Anthropic和OpenAI研究员…
Anthropic的CEO Dario Amodei在CNN上讨论了Jacob Coxon的病毒式推文和辞职事件,赞同关于AI行业发展过快的担忧。