真正的 Anthropic，请站出来

<p class="wp-block-paragraph"><em>本文最初刊登于我们的人工智能每周通讯《The Algorithm》。想第一时间在收件箱中读到这样的文章，</em><a href="https://forms.technologyreview.com/newsletters/ai-demystified-the-algorithm/"><em>请在此订阅</em></a><em>。</em></p> <p class="wp-block-paragraph">经过数周的疯狂猜测，Anthropic 已提交首次公开募股（IPO）招股书。这份<a href="https://www.sec.gov/Archives/edgar/data/2130357/000162828026067168/anthropicpbc-sx1.htm">长达335页的文件</a>（其中约100页专门讨论风险）阐述了该公司对其正在开发的技术，以及它认为这项技术将如何改变世界的独特看法。 </p> <p class="wp-block-paragraph"><strong>但 Anthropic 多年来一直在磨炼讲故事的本领。事实上，它的对外传播堪称掌控叙事的大师课。</strong></p> <p class="wp-block-paragraph">本月早些时候，该公司联合创始人兼政策负责人杰克·克拉克在曼谷举行的国际货币基金组织会议上发表演讲，向在场的经济学家、银行家和立法者宣布：奇点已经到来。</p> <p class="wp-block-paragraph">“奇点”这一概念由科幻作家兼未来学家弗诺·文奇在约40年前提出（互联网中更痴迷技术的小众圈子也早已为此争论不休），指的是技术强大到超越其创造者能力的那个时刻。</p> <p class="wp-block-paragraph">按照这一设想，人类将被远远甩在身后，再也无法与自己昔日创造之物所结出的成果竞争，甚至无法理解它们。</p> <p class="wp-block-paragraph">那么，这个许多人从小就开始想象的虚构世界呢？看来我们已经身处其中：“我相信，今年我们已经获得了令人信服的证据，表明它如今已经开始了。”克拉克对听众说。</p> <p class="wp-block-paragraph">该公司绘声绘色地讲述着一个未来的故事（而且在许多方面颇为吓人）：这个未来尚未发生，却被它描绘成必然到来，而故事素材往往借用了科幻作品中老掉牙的套路。它把自己的技术呈现得神秘又危险，并坚称只有它这一家公司足够值得信赖，能够驯服这项技术。（哪个投资者会不想参与其中呢？）</p> <p class="wp-block-paragraph">再举一个例子。去年，Anthropic 的另一位联合创始人克里斯·奥拉受邀在梵蒂冈发表演讲，向教皇利奥十四世及其他宗教学者和官员介绍他的公司对自身技术有哪些新认识。“坦白说，我们不断发现一些神秘、甚至令人不安的东西，”他说，“我们发现了内省的迹象。我们发现了一些内部状态，在功能上对应着喜悦、满足、恐惧、悲伤和不安。”</p> <p class="wp-block-paragraph">且不说许多研究人员会对这种公然暗示 Anthropic 的软件具有人类般内在体验的说法嗤之以鼻。在似乎没有多少事情能够确定的时候，Anthropic（以及其他前沿人工智能公司）说出的话，就像沉船的碎片一样，被人们一把抓住，紧紧抱牢。</p> <p class="wp-block-paragraph">我并不是说，他们在这些问题上的看法就一定是错的。（那是另一天的话题。）但在一个没人知道未来会怎样的世界里，Anthropic 这样的公司得以填补认知的真空。&nbsp;</p> <p class="wp-block-paragraph"><strong>值得停下来问一句：Anthropic 到底是什么？</strong> 这听起来可能像家庭知识竞赛节目中的一道入门题，但回答起来远比你想象的困难。</p> <p class="wp-block-paragraph">自从上周读到内森·卡尔文在 <a href="https://x.com/_NathanCalvin/status/2112295219765137570?s=20">X 上发起的一场讨论</a>后，这个问题就一直萦绕在我脑海中。卡尔文是 Encode AI 的首席战略官，这家总部位于华盛顿特区的组织倡导对人工智能实施监管。Anthropic 曾向美国立法者秘密传阅一份法案草案（<a href="https://www.politico.com/news/2026/10/16/anthropic-ai-safety-01124654">随后遭到泄露</a>），卡尔文对其中提出的立法方案感到不满。&nbsp;&nbsp;</p> <p class="wp-block-paragraph">卡尔文说，Anthropic 希望被视为好人。但我们为什么应该信任它？“Anthropic 到底是什么？”他问。</p> <p class="wp-block-paragraph">这里有一个答案：Anthropic 是一家在 IPO 中估值超过1.5万亿美元的公司，为包括克拉克和奥拉在内的联合创始人带来了巨额财富。&nbsp;</p> <p class="wp-block-paragraph">但 Anthropic 始终坚称，自己不止于此。正如卡尔文指出的：Anthropic 也可以被视为一家人工智能安全组织，专注于开发可靠且（几乎）没有风险的强大技术。或者，它也可以被视为一群铁了心要抢在所有人之前创造出具备超人能力的技术的人——也许是因为他们相信，自己是最能负责任地做这件事的人，也许则是出于自负。</p> <p class="wp-block-paragraph"><strong>事实上，Anthropic 兼具上述所有身份。</strong> 正如首席执行官达里奥·阿莫代伊在<a href="https://x.com/DarioAmodei/status/2112732230124818891?s=20">回复卡尔文的帖子</a>时所说：“我们的战略始终是我所说的‘向上竞赛’——通过展示如何以负责任的方式开发这项技术，我们可以提高整个行业的标准。如果践行这一做法的公司处于技术前沿，推动向上竞赛的力量就会有效得多；这是我反复领悟到的一个道理。从整体来看这一战略，我为我们取得的成绩感到自豪，也坚定支持它。”</p> <p class="wp-block-paragraph">阿莫代伊说得仿佛一切都已安排妥当，但同时扮演多种角色并不容易。例如，人工智能安全组织与逐利的巨型企业之间，在优先事项上存在巨大矛盾。（阿莫代伊在<a href="https://x.com/DarioAmodei/status/2112732230124818891?s=20">帖子中</a>承认，自己犯过错误。）</p> <p class="wp-block-paragraph">归根结底，Anthropic 讲给自己听的故事，应该帮助我们理解它讲给我们听的故事。这些故事应该帮助我们判断：我们究竟能在多大程度上相信它会自我监管，还是应该强制要求它按照我们的条件，而非它自己的条件，向外部安全测试人员开放模型。它们也应该帮助我们在一项看似为其自身利益服务的立法方案曝光时，决定是否姑且相信它的善意。</p> <p class="wp-block-paragraph">但我认为，这些故事揭示出的是一头多头蛇。对不同的人来说，Anthropic 有着不同的面貌，而我不确定这是否让它更值得信任。在许多方面，一家传统意义上的科技公司——没有科幻角色扮演，没有那些玄乎其玄的东西——反而会容易看懂得多。</p>