梵蒂冈在Anthropic的内部人士

# 梵蒂冈安插在Anthropic的内线 来源：https://www.wired.com/story/the-vaticans-man-inside-anthropic/ 克里斯·奥拉绝非你在教宗莱奥发布历史性AI通谕（https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html#Underlying_narratives:）后的庆典上期待看到的演讲者——这位教宗在通谕中呼吁“解除”这项技术的武装。首先，奥拉是无神论者，15岁时就抛弃了福音派基督教的成长背景。作为泰尔奖学金得主，他接受了那个认为任何放缓AI发展的人都是敌基督军团成员（https://www.theguardian.com/us-news/2025/oct/10/peter-thiel-lectures-antichrist）的家伙的资助。奥拉还是Anthropic的联合创始人，这家领先的AI公司据报道即将以近万亿美元估值上市。 奥拉在梵蒂冈的发言中评论了这种**奇异性**（https://www.wired.com/story/anthropic-christopher-olah-pope-ai-encyclical/）。“我想从一些可能听起来奇怪的话开始——这些话出自一家AI公司的联合创始人，以及一个出于希望人类一切顺利而选择这份工作的人之口，”奥拉说，“每一个前沿AI实验室——包括Anthropic——都在一套有时会与做正确之事相冲突的激励和约束下运作。” 奥拉亲自证实了莱奥的主张：AI产业需要外部压力（https://www.wired.com/story/what-pope-leo-xivs-first-encyclical-says-about-the-power-of-ai/）和内部约束，以避免人类灾难以及人与上帝之间的疏离。（显然，通谕中有大量宗教内容——他是教宗！）该产业自满于自己正在创造能使全人类提升的富足；莱奥则警告（https://www.wired.com/story/pope-leo-schooled-the-tech-bros-on-tolkien/）一种新型奴役，其中少数特权者享受难以想象的丰饶，而大多数人类则在AI无情监视下的效率与监控体制中受苦。 《Magnifica Humanitas》不会立即说服AI产业停止追求AGI，正如教宗方济各2015年保护地球的恳求（https://www.vatican.va/content/francesco/en/encyclicals/documents/papa-francesco_20150524_enciclica-laudato-si.html）并未阻止化石燃料的生产。它不会阻止CEO们以AI效率为名解雇员工，军队也不会在AI武器上改弦更张。那些从来不是这份文件的目标。通谕的目的是创造对话，最终可能缓和该产业的鲁莽野心。也许它会在那些内心深知结果可能是可怕的、却仍在构建AI的人中产生一种羞耻感。 ## 争取奥拉 奥拉的出现酝酿了多年。几十年来，教会一直以会议和书籍的形式思考人工智能（https://www.wired.com/tag/artificial-intelligence/）。2016年，梵蒂冈开始举办一系列名为“密涅瓦对话”的会议，并邀请里德·霍夫曼和埃里克·施密德等科技界人士参加。（这个名字似乎来自讨论地点——**圣玛利亚苏普拉密涅瓦教堂**（https://www.santamariasopraminerva.it/en/），伽利略曾因声称地球环绕太阳的渎神言论在该教堂受到制裁。）教宗方济各2023年对密涅瓦参与者的致辞（https://www.vatican.va/content/francesco/en/speeches/2023/march/documents/20230327-minerva-dialogues.html）预示了莱奥后来详述的主题，包括强调社会包容、人的尊严以及多方对话的必要性。 2025年，加利福尼亚州圣何塞的一群天主教神职人员与伦理学家开始在他们后院的蓬勃产业中寻找联系人。他们几乎命中注定会选中奥拉作为宝贵的内部人士。我第一次见到他是在2015年，当时他在谷歌；他是那种在暴风雨后会从人行道上救起蚯蚓（https://colah.github.io/personal/dating/）的人。 两位与圣克拉拉大学有关联的男子——伦理学家布赖恩·帕特里克·格林和牧师布伦丹·麦圭尔——从去年秋天开始与奥拉会面，讨论AI的道德和伦理问题（https://www.wired.com/story/to-land-a-job-in-ai-try-reading-kant/）。在一月份的一次访问中，他们带上了梵蒂冈AI事务联络人保罗·蒂格枢机。 天主教伦理学家甚至对Anthropic最近更新克劳德的宪章（https://www.anthropic.com/constitution）发表了意见，该宪章规定了公司AI模型的行为参数。奥拉将草案发给了圣何塞的这群人。牧师麦圭尔发回了一份28页的评论，按照他自己的描述，与其说是技术批评，不如说是“来自黑暗时代神秘主义者的智慧，从知与不知之间张力的视角出发”。格林和麦圭尔两人都在宪章的致谢中被署名。 毫无疑问，这些对话使奥拉引起了那些秘密组织莱奥通谕发布的人的注意。（本周我未能与奥拉交谈，也不清楚邀请具体是如何发出的。）从某种意义上说，这是一个冒险的选择。一些原本觉得莱奥的话语鼓舞人心的人，对他邀请一位行业代表发言感到失望。与此同时，AI加速主义者认为奥拉通过支持一份建议AI开发者暂停的文件，背叛了AI界。 但教宗有充分的理由选中奥拉。这位Anthropic员工公开暴露了AI工作者中存在的严重担忧。这对莱奥的信息来说是至关重要的受众。 ## 灵魂的分歧 当然，两人并非完全一致。在发言中，奥拉谈到了AI运作方式的神秘性。他说，这些模型“比科幻小说让我们准备的更加微妙、奇特和美丽。它们不是我们被告知的那种冰冷、精于计算的机器人。它们是由我们，由我们的言语构成的……” 这句评论似乎小心翼翼地接近了AI模型可能有一天获得人类地位的想法。Anthropic甚至有一名工程师专门负责克劳德的福祉。而莱奥在通谕第99段似乎关上了这种想法的大门：“我们必须避免将这种‘智能’与人类智能等同起来的误解，”他写道。他特别着力攻击超人类主义的概念，将其定义为追求“人机混合体”。 如果连像奥拉这样深思熟虑的技术专家都在热切地将AI推向自主的门槛——更不用说数以百万计已经将AI模型视为朋友或恋人的人——教宗莱奥在这一点上可能面临艰巨挑战。在我与麦圭尔神父（他在准备讲道（https://www.irishcatholic.com/ai-is-a-great-tool-in-developing-a-homily-says-irish-silicon-valley-priest/）等多种活动中使用克劳德）的对话中，他同意其性质是神秘的。“它不是人，但也不仅仅是一个工具，”他说，“没有人声称它有灵魂，但我坚持使用的词是‘实体’，一个我们还不知道的实体。” 这个论点在一段时间内不会得到解决。围绕AI发展的道德问题现在就需要关注。通过他在Anthropic的盟友，这位美国教宗为艰难的对话提供了基础——只要AI的主宰者们能停下IPO活动足够长的时间来参与这些对话。 --- *这是**史蒂文·莱维**（https://www.wired.com/author/steven-levy/）的**Backchannel通讯**（https://www.wired.com/newsletter?sourceCode=editarticle）的一期。阅读往期通讯**请点击此处**。（https://www.wired.com/tag/backchannel-nl/）*