引用甘道夫的话，教宗良十六世称我们必须“解除”人工智能的武装

# 引用甘道夫，教宗良十四世表示我们必须"解除人工智能的武装" 来源：https://arstechnica.com/tech-policy/2026/05/citing-gandalf-pope-leo-says-we-must-disarm-ai/ 在人工智能时代，教宗寻找"希望的工匠"。 教宗良十四世在梵蒂冈发布《壮丽人性》。图片来源：Getty Images 今天在罗马，与Anthropic联合创始人并肩而立，教宗良十四世发布了一份重要的新通谕——《壮丽人性》（"Magnifica Humanitas"）——这是他任内的第一份通谕。该通谕呼吁为了公共利益"解除人工智能的武装"。 "这个词很强烈，"良承认，但他刻意选择了"解除武装"这个措辞，"因为此刻需要能吸引注意力、唤醒良知、并为人性指明前进道路的话语。"当今的人工智能必须"从那些将其变为统治、排斥和死亡工具的逻辑中解放出来"。 这份4万字的通谕对人工智能驱动的自主武器、针对数据收集的新殖民主义态度，以及囤积"新形式的财产，如专利、算法、数字平台、技术基础设施和数据"等行为提出了毫不妥协的批评。 但这份文件远不止于批评，它以呼吁所有人"建设"的方式更新了天主教社会训导——这是硅谷精英们钟爱的词汇。（参见风险投资人马克·安德森著名的2020年文章《是时候建设了》。） 然而，在良的愿景中，这种"建设"超越了代码、初创公司、工厂或住房。他呼吁创建一个"爱的文明"，在这个文明中，每个人都在自己的生活领域内为共同利益而努力，技术不主宰、不排斥、不绕过人性，而是服务并增强人性。 正因如此，尽管今天发布，良实际上是在5月15日签署了这份通谕，这一天正是1891年著名的《新事》通谕的周年纪念日。那份较早的文件在资本主义动荡时期确立了天主教社会训导，主要站在工人和工会一边。今天，良为人工智能时代更新了教会的社会训导，他认为人工智能是"我们时代的'新事物'"。 ## 那件新事 正如他的前任135年前所做的那样，良警告说，个人和人类本身绝不能因技术进步或新形式的权力而被抛在后面。他清醒地认识到技术精英当今掌握的巨大影响力，将他们比作殖民征服者。 > 整个地区，尤其是那些结构脆弱、地缘政治重要性有限的地区，目前正遭受一种新的掠夺心态：对健康数据、流行病学概况、基因图谱和人口信息的掠夺。这些已成为权力的新"稀土"：一旦被汇总和分析，这些重要数据可用于训练预测模型、指导投资策略、预测危机，最重要的是，决定谁和什么被视为重要。那些控制着整个民族健康数据的人——这些数据通常以援助、研究或创新的名义收集——对未来的结构性影响力，因为他们可以塑造需求和市场。他们还可以在其他人之前决定谁将获得药物、投资和保护。这是我们时代最紧迫的道德挑战之一：确保共享知识成为真正的共同利益，而不是统治的工具。 如果这个问题解决不了，良说，"数字时代将不是后殖民的，而是另一种形式的殖民。" 尽管如此，梵蒂冈并不反对将人工智能作为工具。事实上，今年春天，它推出了一套人工智能系统，可以将圣彼得大教堂的弥撒实时翻译成60种语言，并通过人们的智能手机接收。 但《壮丽人性》认为，必须正确看待人工智能，因为"这些系统仅仅是模仿人类智能的某些功能"。虽然它们思考速度可能更快，但人工智能工具"不会经历体验，没有身体，不会感受快乐或痛苦，不会通过人际关系成熟，也无法从内在理解爱、工作、友谊或责任的意义。它们也没有道德良知。" 这就是为什么良认为，我们不应被人工智能对"智能"的专注引入歧途。以这种方式提升人性的某一特质，可能会掩盖"生活的其他基本维度，如情感、意志、承诺和关系"。如果将纯粹的技术力量赋予人类，而脱离智慧、情感和关系，良说，那"不会让我们更有能力；只会让我们更加孤立，更容易被统治和排斥"。 基于这一现实，良总结说，人工智能必须被"解除武装"，将其"从垄断控制中解放出来，并向讨论和辩论开放，从而使其对人类友好，并使其回归人类文化和生活方式的多样性"。单纯的监管"是不够的"。 因此，解除武装是一项生态工程，将人工智能置于人类文化的广阔视野中，使其朝向人类繁荣发展，而非战争、垄断权力或新的不平等。它召唤我们同时抵制技术统治，并通过"微小而坚定的忠诚行为来建设，这些行为是抵御非人化的堡垒"。 要培养建设这种新"爱的文明"所需的心态，良提出了个人和机构都可以采纳的五条路径：需要解除言语的武装、通过正义建立和平、采纳受害者的视角、培养健康的现实主义、以及复兴对话和多边主义。 ## 召唤甘道夫 在发出既解除武装又进行建设的呼吁时，良转向了"二十世纪天主教作家"J.R.R. 托尔金。尽管他不太愿意直接说自己在引用《魔戒》中的甘道夫，但这正是实际情况。 （通谕只说这句话出自托尔金"一部小说中一位主角的话语"。虽然教宗方济各此前曾谈及托尔金的作品，但这似乎是托尔金首次被引用在教会最高级别的官方教义出版物中。） 甘道夫说——这句话可以说是贯穿整个《魔戒》的主题： > 我们的使命不是掌控世界所有的浪潮，而是在我们所处的年月里，竭尽全力去救助，在我们所知的田野里拔除邪恶，以便后来者能有干净的土地可以耕作。 这里所设想的道德和本地行动，加上托尔金对技术非人化影响的警惕，显然吸引了良。 尽管如此，教会知道自己的位置，良说，并不想发号施令。宗教并不拥有"技术答案，我们也不试图取代那些有专业知识的人，"他写道。"但我们带来了关于人性的智慧，这正是我们当下时代迫切需要的：每个人都是独特且不可替代的，是拥有良知的自由和智能主体，能够寻求上帝、彼此服务、照料我们共同的家园。" 良要求每一位读到这份文件的人做出承诺："保持警醒，并作为'希望的工匠'，继续建设我们时代的工地。" Anthropic联合创始人克里斯托弗·奥拉在梵蒂冈发言。 图片来源：Getty Images ## 同行之路 Anthropic联合创始人克里斯·奥拉称这份文件"及时"，并指出他最希望宗教和道德领袖帮助人工智能行业思考的三个问题。 > *首先是我们对全球穷人的责任。* 人工智能极有可能大规模取代人类劳动。如果发生这种情况，支持那些被取代的人将是历史性的道德责任。这项任务已经够难了，但我担心大多数对话忽略了更艰巨的挑战。人工智能开发集中在少数富裕国家。我们如何确保人工智能的成果在全球范围内共享？我们目前没有这样的机制。这是一个未解决的问题，而且正是历史上教会拒绝让世界忽视的那类问题。 > *其次，需要对人类繁荣具有道德想象力和雄心。* 如果人工智能模型将广泛普及，那么人类、家庭和世界繁荣是什么样子的？…… > *第三，需要对人工智能模型的性质进行辨别。* 我是一名科学家。我领导一个研究团队，研究这些模型的内部结构——它们内部到底发生了什么。说实话：我们不断发现一些神秘甚至令人不安的东西。我们发现一些结构与人类神经科学的结果相似。我们发现内省的证据。我们发现一些内部状态在功能上类似于喜悦、满足、恐惧、悲伤和不安。我不知道这意味着什么，但我认为这值得持续的辨别。 在今日发布《壮丽人性》时，教宗良感谢奥拉出席，并补充说他们会保持联系。 "我接受你同行的邀请，"教宗说，"去倾听和交谈，共同为人类寻找道路，在这个人工智能的时代。" Nate Anderson的相片 51条评论 1. 热门第一篇文章的列表图片：我花了数年逼迫自己通关《巫师3》——别重蹈我的覆辙