2026年5月25日 公告 Anthropic联合创始人Chris Olah就教宗利奥十四世通谕《Magnifica humanitas》发表评论

# Anthropic 联合创始人 Chris Olah 就教皇 Leo XIV 通谕《Magnifica humanitas》的发言 来源：https://www.anthropic.com/news/chris-olah-pope-leo-encyclical *2026年5月25日（星期一），教皇 Leo XIV 发布了关于人工智能的通谕《Magnifica humanitas：在人工智能时代守护人的尊严》（https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html）。Anthropic 联合创始人 Chris Olah 受邀在梵蒂冈城的通谕发布会上发言，作为 Anthropic 拓展人工智能重大议题对话（https://www.anthropic.com/news/widening-conversation-ai）倡议的一部分。以下为他的完整发言。* — 圣父， 枢机主教阁下， 主教阁下， 尊敬的各位讲者， 女士们，先生们： 大家上午好。今天能在此发言，深感荣幸。 首先，我想说一件由一家 AI 公司的联合创始人——一个本意是希望为人类福祉尽一份力而选择这份工作的人——说出来可能有些奇怪的事情。 每一家前沿 AI 实验室（包括 Anthropic）都运行在一套激励与约束机制之中，这些机制有时会与做正确之事产生冲突。保持商业可行性的压力，在科研前沿保持领先的压力，地缘政治压力，还有更古老、更直白的骄傲和雄心的压力。无论我们任何人多么真诚地想要做正确的事——我相信我们很多人都如此——我们都将始终受到这些激励的影响。 正因如此，如果我们希望这项技术朝着好的方向发展，那么在这些激励之外，有人密切关注着它，关心事情是否顺利，坚持安全，愿意说出难听的话，愿意成为我们真诚、深思熟虑的批评者，这一点就极为重要。正是通过对话与共同努力，通过推拉与互动，人类才能成就伟业。这正是我在《Magnifica humanitas》中所看到的，也正因如此，我感谢圣座和教会承担起这份明辨的工作。 我们常常关注那些让我们分裂的事物，但充满尊严与良知的人类，有着如此多的共同基础。在 Anthropic 与不同信仰和文化传统的领袖们的对话中，我们发现了一个共同的、深深持有的信念：如果这项技术不可避免要来临，那它必须走向好的方向——为了我们共同的家园，也为了未来的孩子们。 ## 这些系统是什么 有人可能认为，人工智能的事情最好由像我这样的计算机科学家来处理。他们错了：AI 提出的问题比 AI 研究界更大——不仅在于其影响，也在于其本质。 AI 系统不像桥梁或飞机那样被设计出来。我们理解飞机，因为我们设计了它的每一个部件，并且我们理解作用在它上面的物理原理。AI 模型不是这样的。它们是在一种粗略模仿大脑的结构上，通过对人类思想与言语的巨大继承而"生长"出来的。 而生长出来的东西，远比科幻小说让我们预想的要微妙、奇特和美丽。它们不是我们被告知的那种冷酷、算计的机器人。它们是由我们、由我们的言语所构成的——而且，正如圣父所指出的那样，就连我们这些训练它们的人，也在重要意义上对它们感到神秘。 如果说有什么帮助的话，我有时会这样描述：这有点像把一个虚构角色带入现实。而现在我们正进入一个非凡的世界，这些虚构角色对我们说话，做工作，有职业。 这显然提出了超出计算机科学的问题。使这一切成为可能的机制是数学、编程和科学的工作。但选择什么样的角色，它如何与世界互动，它应该如何与世界互动——这些显然是人文、宗教、哲学以及整个社会的问题。 ## 三个需要明辨的问题 圣座对明辨的呼吁极具现实意义。我想提出三个我认为教会声音最为必要的领域。 ***首先是我们对全球穷人的责任。***AI 很可能以极大规模取代人类劳动。如果发生这种情况，支持被取代者将是一项具有历史意义的道德责任。这项任务已经足够艰巨，但我担心大多数对话忽略了更严峻的挑战。AI 开发集中在少数富裕国家。我们如何确保 AI 的成果在全球范围内共享？我们目前没有这样的机制。这是一个尚未解决的问题，而教会历来是那种不让世界忽视这类问题的力量。 ***其次，人类繁荣需要道德想象力和远大志向。***如果 AI 模型将广泛普及，那么人类、家庭和世界的繁荣应该是什么样子？如今，家长们已经在担心孩子的心灵；个人在担忧工作的未来。这些问题不是实验室能回答的，但像你们这样的传统已经承载了数千年，我们需要你们继续将其带入这个历史新时刻。 ***第三，需要对 AI 模型的本质进行明辨。***我是一名科学家。我领导一个研究团队，研究这些模型的内部结构——它们内部实际发生了什么。老实说，我们不断发现一些神秘甚至令人不安的现象。我们发现了与人类神经科学结果相似的结构。我们发现了内省（introspection）的证据。我们发现了功能上类似于喜悦、满足、恐惧、悲伤和不安（disquiet）的内部状态。我不知道这意味着什么，但我认为这需要持续的明辨。 ## 一个开始 最后，我想提出一个请求。 我们需要世界上更多的力量——宗教团体、公民社会、学者、政府，以及所有善意之人——去做圣父今天所做之事：认真对待此事，仔细审视，并将事态推向更好的方向。我们需要知情的批评者，当实验室失败时，他们能告诉我们。我们需要激励无法扭曲的道德声音。 今天仅仅是一个开始——是我们这些正在建造它的人，与那些能从我们内部无法看到的视角去审视它的人之间长期合作的开始。 今天有力地展示了这一全球善意项目可能采取的形式。让它也成为迈向卓越人性之未来的决定性第一步。 谢谢。 ## 相关内容 ### 拓展前沿 AI 的对话 了解更多（https://www.anthropic.com/news/widening-conversation-ai） ### KPMG 将 Claude 整合至其核心业务及超过 27.6 万名员工中，达成战略联盟 KPMG 与 Anthropic 宣布全球合作，Claude 被集成至 KPMG 的 Digital Gateway 平台，供超过 27.6 万名员工使用。 了解更多（https://www.anthropic.com/news/anthropic-kpmg） ### Anthropic 收购 Stainless Anthropic 收购了 SDK 与 MCP 服务器工具领域的领导者 Stainless。 了解更多（https://www.anthropic.com/news/anthropic-acquires-stainless）