关于教皇利奥十四世人工智能通谕的笔记

# 关于教宗良十四世人工智能通谕的笔记 来源：https://simonwillison.net/2026/May/25/encyclical-on-ai/ 2026年5月25日 今早由梵蒂冈发布：教宗良十四世陛下关于《在人工智能时代守护人的尊严》的通谕——**Magnifica Humanitas**（https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html）。这是一份**非常有趣的**文件。它是我见过的关于将人工智能融入现代社会伦理问题的最清晰的论述之一。 教宗良十四世选择“良”这个名号，是为了纪念教宗良十三世，后者以其1891年关于“资本与劳动的权利与义务”的通谕《**新事**》（https://en.wikipedia.org/wiki/Rerum_novarum）而闻名。 梵蒂冈新闻的这篇报道（https://www.vaticannews.va/en/church/news/2025-05/leo-xiii-s-times-and-our-own.html）进一步阐明了这一决定的意义： > 在与枢机团当选后的首次正式会面中，教宗良十四世解释了他选择教宗名号的部分原因。“这有不同的原因，”他说，接着解释说选择“良”这个名号，“主要是因为教宗良十三世在其历史性的通谕《新事》（https://www.vatican.va/content/leo-xiii/en/encyclicals/documents/hf_l-xiii_enc_15051891_rerum-novarum.html）中，在第一次伟大工业革命的背景下处理了社会问题。”他继续说道：“在我们这个时代，教会向所有人提供其社会教导的宝藏，以应对另一场工业革命以及人工智能领域的发展，这些发展对人的尊严、正义和劳动提出了新的挑战。” 现在，我们迎来了教宗良十四世关于人工智能革命的通谕。内容十分丰富，但写作风格非常平易近人，包括对非天主教读者也是如此。 #### 我关注的一些重点 （我是在遛狗时听完大部分通谕的，这是我第一次尝试使用 ElevenReader iPhone 应用程序（https://apps.apple.com/us/app/elevenreader-read-books-aloud/id6479373050）。效果非常好：我粘贴了文档的 URL，它用非常高质量的语音读给我听，并且随着朗读高亮显示每个段落。） 以下是我关注的一些重点。在每种情况下，**强调**是我的标注。 以下是第98节中对LLM可解释性问题的一个有用的描述： > 首先，鉴于这些系统发展速度之惊人，任何关于人工智能的陈述都可能很快过时。其次，我们所有人，包括那些设计它们的人，对它们实际运作方式的了解都很有限。事实上，**目前的人工智能系统与其说是“构建”出来的，不如说是“培育”出来的，因为开发者并不直接设计每一个细节，而是创造一个框架，让智能在其中“生长”**。因此，基本科学方面——例如这些系统的内部表示和计算过程——目前仍然是未知的。 我喜欢第83节中对发展与尊严之间关系的描述： > 对于个人和国家而言，发展既是责任也是权利。需要最低限度的条件，才能使每个人和每个民族都能按其尊严得以繁荣，而不被置于依赖状态或被排除在获得必要物品之外。只有当发展将人置于中心而非财富积累之上，并且同时关注民族和个人时，发展才是真正人性化的。正义要求承认社会和民族的权利，并包含对子孙后代的责任。**如果发展只是增加了部分人的消费，却将成本和负担转嫁给他人，或者将整个地区置于从属角色，阻止它们实现其全部潜力，那么发展就不是真正人性化的**。 第100节提到了嵌入的文化偏见和迎合行为： > 在个人使用中，三个方面尤其值得仔细考量：获取结果的便利性、客观性的假象以及人类交流的模拟。能够快速简便地获取信息、复杂的分析、媒体内容和实际帮助，无疑使生活更轻松。然而，它们也可能鼓励过度依赖和寻找现成答案，并削弱个人的创造力和判断力。**这些系统提供的回答和建议表面上的客观性，可能会让我们忽视一个事实：它们反映了设计和训练它们的人的文化假设，包括其所有优点和局限性**。对积极的人类交流——如建议、共情、友谊甚至爱的言辞——的人工模仿，可能很吸引人，有时也确实有帮助。**然而，对于不太挑剔的用户来说，这可能会产生误导，造成与真实个人主体建立关系的错觉**。当言辞被模拟时，它们建立的不是真正的关系，而是关系的表象。对关心或支持的人工模仿，在进入真正关系和情感纽带缺失的语境时，可能会变得特别危险。 第101节涉及环境影响： > 当前的人工智能系统需要大量的能源和水，显著影响二氧化碳排放，并对自然资源提出沉重需求。**随着其复杂性的增加，特别是在大语言模型的情况下，对计算能力和存储容量的需求也随之增长，这需要广泛的机器、线缆、数据中心和能源密集型基础设施网络**。因此，必须开发更可持续的技术解决方案，以减少环境影响并帮助保护我们共同的家园。 第102节涵盖了算法系统在没有人“同情、怜悯、宽恕”的情况下做出影响人们生活的决策所带来的风险： > 人工智能的使用绝不仅仅是技术问题：**当它进入影响人们生活的过程时，它触及了权利、机会、地位和自由**。重要的和敏感的决策——涉及就业、信贷、获取公共服务甚至一个人的声誉——**有可能完全委托给那些不知道“同情、怜悯、宽恕，尤其是人们能够改变的希望”的自动化系统**，从而可能产生新的排斥形式。 第105节强调了在这些系统如何应用方面需要人类负责： > 为了让人工智能尊重人的尊严并真正服务于共同利益，责任必须在每个阶段明确界定：**从设计、开发这些系统的人，到使用它们并依赖它们做出具体决策的人**。然而，在许多情况下，导致结果的内部分过程仍然不透明，使得分配责任和纠正错误变得更加困难。**这正是问责制至关重要的地方：能够确定谁必须为决策“负责”、证明其合理性、监督它们，并在必要时质疑它们并补救所造成任何损害的能力**。 第108节则涉及人工智能如何放大有资源者的权力： > 事实上，正如每一次重大技术变革一样，**人工智能往往会放大那些已经拥有经济资源、专业知识和数据访问权的人的力量**。鉴于共同利益和物品的普遍归属，这引发了严重的关切，因为规模虽小但影响力巨大的群体可以塑造信息和消费模式，影响民主进程，并操控经济动态以谋取私利，从而破坏社会正义和民族之间的团结。因此，至关重要的是，人工智能的使用，尤其是在涉及公共产品和基本权利时，必须由基于参与和辅助性原则的明确标准和有效监督来指导。 同一节明确将数据视为更应该被看作公共物品的东西： > [...] 此外，**数据的所有权不能仅掌握在私人手中**，而必须受到适当的监管。**数据是众多贡献者的产物，不应被视为可以出售或交由少数人掌控的东西**。有必要创造性地思考，以参与的精神将数据作为共同或共享的物品来管理，正如**圣若望·保禄二世**（https://www.vatican.va/content/john-paul-ii/en.html）在提及集体物品时已经建议的那样。 鉴于 Palantir 是以《指环王》中的典故命名的，我不禁怀疑，通谕第213节中引用的 J. R. R. 托尔金《王者归来》的语句，是否是教宗在向彼得·蒂尔投去一丝微妙的暗讽。 > 二十世纪的天主教作家 J. R. R. 托尔金，通过其一部小说中主人公的话语，这样描述我们的责任：“我们的职责并非掌控世间所有的潮流，而是要尽己所能，为我们所处的时代提供援助，铲除我们所知领域内的邪恶，以便后来者能有洁净的土地去耕耘。”爱的文明不会源于孤立的或壮观的举动，而是源于无数微小而坚定的忠诚行为的总和，这些行为筑起一道防线，抵御非人化。因此，值得停下来反思一下，我们每个人如何以自己的方式，在建设爱的文明中贡献力量。 #### 又一项2026年预测成真 今年1月6日，我参加了 Oxide and Friends 2026年预测（https://oxide-and-friends.transistor.fm/episodes/predictions-2026）播客节目，讨论对2026年、2029年和2032年的预测。我在这里（https://simonwillison.net/2026/Jan/8/llm-predictions-for-2026/）写下了我的预测，事后看来，这些预测远不够大胆——LLM能够编写优质代码已是不争的事实，我们在沙箱技术方面取得了巨大进步，而新西兰的鸮鹦鹉也确实经历了一个**非常出色的繁殖季节**（https://news.mongabay.com/short-article/2026/03/critically-endangered-kakapo-parrot-has-standout-breeding-season/）。 节目中有一个片段，我当时没费心写进笔记，但现在忍不住要在这里提供一个稍加编辑的文字记录： > **Bryan Cantrill：** 37:13 （https://oxide-and-friends.transistor.fm/episodes/predictions-2026/transcript#t=37m13s） 我认为人工智能自身已经造成了一些真正的公众认知问题。而且我认为，今年会有一家前沿模型公司发布一份白皮书，解释人工智能的普及将如何带来所有人的繁荣。他们会试图提出某种经济论点——因为这会成为2026年选举的一个议题，我们如何看待这些事情以及如何监管它们，这真是一团糟。这场辩论中噪音多于洞见。 > **Simon Willison：** 38:05 （https://oxide-and-friends.transistor.fm/episodes/predictions-2026/transcript#t=38m5s） 我想在那上面补充一点：我认为只有当这些内容能够通过现有的可信专家来“洗白”时，他们才有机会成功。Sam Altman 和 Dario 一直在发表关于这个问题的文章，但没人相信他们说的一个字。如果能说服巴拉克·奥巴马在一份立场文件上署名，*也许*你就能得到一些人们可能开始有点信任的东西了。 > **Adam Leventhal：** 38:27 （https://oxide-and-friends.transistor.fm/episodes/predictions-2026/transcript#t=38m27s） 否则，这就像埃克森美孚说“含铅汽油对你有好处”一样。 > **Bryan Cantrill：** 38:31 （https://oxide-and-friends.transistor.fm/episodes/predictions-2026/transcript#t=38m31s） 我的意思是，是啊。老天。奥巴马……那就选他吧，这是个好主意，因为如果是比尔·克林顿，大家都会翻白眼，所以必须是真正有可信度的人，站出来说这将带来广泛的好处……我得说，如果他们找到那个人来做这件事，那也会被揭露出来其实也有点猫腻。 > **Simon Willison：** 38:57 （https://oxide-and-friends.transistor.fm/episodes/predictions-2026/transcript#t=38m57s） 那么教宗怎么样？ > **Bryan Cantrill：** 39:01 （https://oxide-and-friends.transistor.fm/episodes/predictions-2026/transcript#t=39m1s） 教宗对这些东西很感兴趣！这是个很好的预测。我们撞大运了。教宗就LLM及其对世界的经济影响发表看法。Simon，如果教宗真的发表了看法，而且认为这会导致经济破坏，我会把全部功劳归于你。 考虑到良十四世与良十三世之间的关系——我当时录制节目时并不知道这一层关系——我的这个预测看起来就没那么有洞察力了！