@MaxForAI: Andrej Karpathy 刚加入了 Anthropic。 他的新上司就是那个意识到人工智能可以自我训练的人： Nick Joseph （@nickevanjoseph ）。 你可能从未听说过他。 哈佛毕业，不是什么Phd博士，不怎么…

Andrej Karpathy 刚加入了 Anthropic。 他的新上司就是那个意识到人工智能可以自我训练的人： Nick Joseph （@nickevanjoseph ）。 你可能从未听说过他。 哈佛毕业，不是什么Phd博士，不怎么上台，不怎么接受采访，也很少把自己放在聚光灯下面。 他的第一份工作在GiveWell，一家研究慈善捐赠效果的非营利机构。 也是在那里，他第一次认真接触到AI safety。 后来他去了Vicarious，一家很早就想通过机器人和视觉系统做AGI的公司。 再后来，他加入OpenAI，进了safety team。 他做过一件当时没太多人真正看懂的事： 开发早期Code models。 也就是让大模型开始理解和生成代码。 后来Nick自己提到过，这让他感到非常不安。 如果你相信AI会走向recursive self-improvement，能写代码的模型，就是这条路上的第一步。 模型开始写代码，代码又会被用来训练下一代模型。 在某个瞬间他看到了那个未来，模型自我迭代，然后失控。 于是2020年底，Nick和Dario、Daniela Amodei等11个人人一起叛逃OpenAI，创立Anthropic。 今天，他负责Anthropic的pretraining团队，负责训练每一个版本 Claude 。 手下有40 多名工程师，自己有27,000 多次学术引用。 现在，Karpathy加入了他的团队。 最会讲AI的人，刚刚加入了训练Claude的团队。 而那个平时几乎没人讨论的人，正在训练每一代Claude。