梵蒂冈为何邀请Anthropic参加教皇AI通谕发布会

# 为什么梵蒂冈邀请 Anthropic 参加教皇的 AI 通谕发布会 来源：https://www.wired.com/story/anthropic-christopher-olah-pope-ai-encyclical/ 周一，教皇利奥十四世在梵蒂冈发布其第一份关于人工智能的通谕时，邀请了 Anthropic 联合创始人克里斯托弗·奥拉发言。此举标志着天主教会与硅谷之间一种前所未有的联盟。但要理解这种合作关系如何形成，我们需要回溯到 Anthropic 的创立之初。 ## 为什么是 Anthropic？ Anthropic 于 2021 年成立，此前一批 OpenAI 研究人员——包括达里奥·阿莫迪和丹妮拉·阿莫迪——离开并组建了一家竞争对手实验室。他们带着一个明确的信念离开：人工智能模型正变得过于强大，不能仅仅按照竞争和速度的逻辑来开发。 自那以后，Anthropic 围绕 AI 安全的概念建立了其公众形象。该公司不仅致力于构建强大的模型，更致力于构建可控且受伦理原则指引的模型。这正是“宪法式 AI”(https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback) 概念的由来：即使用由原则和规则构成的“宪法”来训练系统，而不是仅仅手动修正最危险、最具风险的回应。 教皇利奥十四世出席其首份通谕《崇高人性》的发布会，该通谕聚焦人工智能的崛起…… 教皇利奥十四世出席其首份通谕《崇高人性》的发布会，该通谕聚焦人工智能的崛起，摄于 2026 年 5 月 25 日的梵蒂冈。 摄影：Alberto Pizzoli/Getty Images ## 与梵蒂冈的汇合是如何开始的 奥拉在梵蒂冈的出现显然并非偶然，也不是最后一刻象征性姿态的结果。这是梵蒂冈经过深思熟虑、长期努力的结果，它逐步将自己从技术的道德观察者转变为与 AI 行业直接对话的角色。 第一个重要步骤出现在 2020 年的《罗马 AI 伦理呼吁》(https://www.vatican.va/roman_curia/pontifical_academies/acdlife/documents/rc_pont-acd_life_doc_20202228_rome-call-for-ai-ethics_en.pdf)，这是一项由宗座生命科学院与微软、IBM 及其他国际组织共同推动的倡议。其目标是为 AI 的发展建立一个共同的伦理原则基础，包括透明度、包容性和问责制。 当时，梵蒂冈似乎主要活跃在生物伦理和道德问题领域。然而，在随后的几年里，背景发生了巨大变化。ChatGPT 的兴起、中美之间对技术领导权的争夺，以及科技巨头的日益强大，逐渐让圣座确信，这个问题已不再仅仅是技术伦理，而是关乎人类的未来。 从这个意义上说，Anthropic 被梵蒂冈视为一个特别重要的对话者。与硅谷其他主要围绕创新和增长建立声誉的公司不同，Anthropic 将 AI 安全作为其身份的核心部分。 近年来，梵蒂冈特别关注技术辩论中的一个特定方面：AI 模型的对齐。 ## 奥拉的角色 这正是克里斯托弗·奥拉发挥作用之处。与更常面对媒体的阿莫迪兄妹不同，奥拉代表了 AI 研究中更具理论性、近乎哲学的一面。他是全球最著名的模型可解释性研究者之一，该领域致力于理解日益复杂的神经网络内部究竟发生了什么。 梵蒂冈城，梵蒂冈，5 月 25 日。加拿大亿万富翁商人兼机器学习研究员、Anthropic 联合创始人…… 克里斯托弗·奥拉 摄影：Alessia Giuliani/Getty Images 在其个人网站上，克里斯托弗·奥拉将自己描述为一个试图“将神经网络转化为人类可理解的算法”的人。很难想象还有谁比这位更契合教皇利奥十四世通谕的核心思想：聚焦于构建过于强大而难以理解、控制或治理的技术所带来的风险。 根据各种新闻报道，圣座周围圈子与 Anthropic 之间的接触可能正是在全球 AI 安全峰会期间加强的。梵蒂冈在 Anthropic 身上看到了一家公司，至少愿意公开承认人工智能的问题不能仅由技术行业解决。 这一点在通谕文本及其发布会中都得到了强调。该文件反复强调一个观点：技术并非中立，算法不可避免地体现了特定的世界观。通过其“宪法式 AI”项目，Anthropic 正是在尝试做到这一点：将价值观、规则和原则明确引入 AI 模型的行为中。 本质上，梵蒂冈与 Anthropic 之间的联系源于一个共同的恐惧：日益强大的系统最终可能仅仅由驱动全球 AI 竞赛的经济、地缘政治和竞争激励所塑造。 ## 声誉即产品 这个故事也有其产业层面，而不仅仅是精神层面：对于 Anthropic 来说，与梵蒂冈的关系不可避免地具有巨大的声誉价值。在人工智能越来越成为关于劳动力、国家安全、监控和军事力量辩论核心的时刻，“道德 AI 公司”的形象是一个重要的优势。 Anthropic 的聊天机器人 Claude 正是围绕与用户建立信任的理念构建的。该模型“响应”一部伦理宪法，公司的公开语言持续围绕责任与安全，而伦理本身也成为了产品象征性基础设施的一部分。 一张图片展示了教皇利奥十四世通谕《崇高人性》的文本，该通谕聚焦人工智能的崛起，摄于…… 教皇利奥十四世通谕《崇高人性》的文本。 摄影：Alberto Pizzoli/Getty Images ## “崇高”的人性 通谕的标题本身就围绕着一个特定的张力：人被描述为“崇高的”，但同时又能创造出新的非人化形式。从这个角度看，人工智能本身并非邪恶。它是一面镜子，映照着建造它的人。 因此，梵蒂冈反复警告存在一种新的“数字巴比伦”的风险：一个将人、关系乃至真理本身简化为数据、表现和效率的社会。 在文本中，教皇利奥十四世明确谈到了技术权力集中在少数跨国私人行为体手中的问题。这一批评与当代关于 AI 治理的许多辩论相呼应：谁控制着模型？谁决定训练模型的标准？谁拥有未来的基础设施？ 在通谕发布会期间，克里斯托弗·奥拉说了一段对科技高管而言不同寻常的话：他公开承认，即使是最注重伦理的公司也仍然深陷于经济、地缘政治和竞争的激励之中，这些激励可能与“做正确的事”相冲突。这样一来，他公开承认了人工智能的问题不能仅仅留给科技公司的自我监管。 ## “21 世纪的广岛” 在关于 AI 的辩论中，与原子弹的比较反复出现。不同之处在于，核技术由国家控制，而 AI 则主要在私营公司内部开发。这是通谕的核心观点之一：如今，“技术力量呈现出新的面貌，主要体现为私有化”。 而这正是一种共同的恐惧的浮现——梵蒂冈与 AI 世界中那些最关注安全的派别用截然不同的语言表达了这一点：日益强大的系统，像目前正在开发的这些，最终可能会被扭曲的人类激励机制所引导。 从这个角度来看，“21 世纪的广岛”可能不是一个单一的灾难性事件，而是一个缓慢的社会自动化过程，在这个过程中，人类开始将思考、选择、获取信息和彼此关联的方式委托给机器。换言之，风险在于，“崇高人性”可能转变为某种“恐怖之物”。