科克森辞职的时间线比“AI会杀死我们”的部分更离奇

Reddit r/ArtificialInteligence 新闻

摘要

雅各布·科克森,一位剑桥数学天才,在Anthropic短暂任职后辞职,引发了对AI安全的讨论,并导致对时间线的审视。该事件恰逢政治举措,如《禁止人工智能超级智能法案》以及伯尼·桑德斯和史蒂夫·班农等人参与的即将到来的活动。

快速回顾,因为报道一直很草率。雅各布·科克森今年27岁。剑桥数学背景,有IMO奖牌。大约三年的预训练经验,先在OpenAI从事GPT-4o相关工作,然后在Anthropic。Anthropic花了大约两年时间招募他。他大约在五月加入。他在四个月后辞职,就在六个月归属期之前,因此他放弃了未归属的Anthropic股票。他仍持有OpenAI的股权。Axios已确认。他并非安全负责人。当WIRED询问Anthropic是否已在走捷径时,他说还没有。他的观点是关于竞赛,而非泄露的评估或掩盖。埃文·胡宾格(对齐科学负责人,仍在职)回应说雅各布是对的,内部人员确实认为这可能杀死所有人,他个人认为十年内风险超过10%。这一确认正是此事比随意辞职帖更具冲击力的原因。现在说说标题跳过的内容。他当前的X账户@hilbertspaess创建于2026年1月21日。在辞职帖之前几乎没有公开帖子。该帖子获得了超过1亿次浏览,并在一天内增加了约19万粉丝。科克森后来告诉CNN,他与一位朋友起草了帖子,与朋友讨论措辞,并请朋友转发,因为他希望它稍微走红。他说他没想到会这样。《华尔街日报》在他X帖子发布前约18分钟发布了独家报道,引用他的话。最初10-15分钟内的首次引用推文大多是AI政策人士,包括丹尼尔·科科塔约洛和彼得·维尔德福德。伯尼·桑德斯和格雷格·卡萨尔议员于9月3日宣布了《禁止人工智能超级智能法案》。永久禁止超级智能,在监管机构制定规则前暂停高级开发。科克森的帖子发布于9月8日/9日。桑德斯当天转发了他的帖子,并说这就是他将提出立法的原因。该法案已提前宣布。2022年,科克森获得了Good Ventures(莫斯科维茨)的长期未来奖学金。莫斯科维茨资助了许多AI安全倡导活动,也是Anthropic的投资者。科克森还参加了2021年伦敦的Newspeak House研究员计划。这是一个公民科技/政治技术学院。他们接受了与有效利他主义相关的资金。杰里米·科尔宾多年前在那里发布了数字宣言。这是背景信息,本身并非把柄。Axios今日报道称,科克森、桑德斯和史蒂夫·班农将于周二在未来生命研究所的“亲人类集会”上发表演讲。所以你有:短暂任期、安静账户、采访先行、然后是帖子、接着是政策账号、再是已写好的法案、最后是与桑德斯和班农的策划活动。他确实放弃了未归属的Anthropic赠款。胡宾格独立地对风险数字说了同样的话。这两件事可能与看似计划好的推出同时为真。不确定我们该如何处理这些。好奇这里的人们更关注时间顺序而非灭绝线,因为灭绝线并不新鲜。
查看原文

相似文章