教宗良十四世首道通谕论人工智能之力量

# 教皇利奥十四世的首道通谕如何论述人工智能的力量 来源：https://www.wired.com/story/what-pope-leo-xivs-first-encyclical-says-about-the-power-of-ai/ 一个算法决定我们看到什么，另一个算法过滤我们读到什么，还有更多算法进入管理劳动、信息和集体选择的流程中。在《伟大的人性》（*Magnifica Humanitas*）这道通谕中——这是教皇利奥十四世签署的首道通谕，于5月25日发布——人工智能（https://www.wired.com/tag/artificial-intelligence）被视为不仅仅是又一项技术；它已是我们当代日常生活的无形基础设施的一部分。 但该文本并不被构想为纯粹的技术性反思。教皇利奥十四世将人工智能问题置于天主教会社会教义的传统中，并直接援引——同时予以更新——教皇利奥十三世于1891年5月15日发布的《新事》（*Rerum Novarum*），今年正值其颁布135周年。那道通谕论述了19世纪末工业革命高潮时期的劳动问题。 如果说那时的“新事”是工厂、劳动和工业资本主义，那么今天的新问题则围绕数字平台、算法、数据和自动化系统展开，这些正在重塑权力、经济和社会关系。正因如此，这道通谕并不将自己呈现为一份关于创新的技术性文本，而是一次在人性尊严和共同善的光照下诠释数字化转型的尝试。教皇写道，技术本身并非邪恶；相反，它属于人类历史和创造力。但当前的情况在规模和深度上都不同：“人类从未拥有过如此大的权力来支配自身，”文本如此观察道，描述了那些日益渗透地塑造决策过程、集体想象和社会生活的技术。 正是在这一点上，罗伯特·弗朗西斯·普雷沃斯特（Robert Francis Prevost）选择从此处切入：从通过日益不透明却又日益具有决定性作用的系统所行使的日益集中的权力，以及贯穿整道通谕的问题出发——当决策被移交给算法逻辑时，人类尊严、真理的保护、劳动、社会正义与和平还剩下了什么？ ## 为技术“解除武装” 通谕中有一个表达成为解读整个场景的关键：“为技术解除武装”（disarming technology）。这远非试图减缓人工智能的发展或否认其可能带来的积极变革性影响。对罗伯特·弗朗西斯·普雷沃斯特而言，为人工智能解除武装意味着防止它成为一种能够支配人类生存的权力形式。 因此，对利奥十四世来说，问题不在于技术本身，而在于其组织方式与应用。教皇写道，人工智能如今是一场全球竞赛的一部分，目标是“性能最优异的算法”和“最大的数据中心”，其竞争优势也成为了地缘政治的一部分。在这种背景下，少数参与者集中了数字基础设施、数据和计算能力，这影响着信息、经济，甚至民主制度。 解除武装意味着打破这种技术权力与治理权利之间的等式。“正如每一次重大技术转折点所发生的那样，人工智能尤其倾向于增强那些已经拥有经济资源和数据获取渠道的人的力量，”教宗解释道。 通谕以明确的语言指出：仅仅监管技术是不够的；必须将其从垄断中夺回，使之透明化并能够被挑战——也就是说，使其对多种行动者“可居住”。最重要的是，必须防止人工智能成为少数人进行经济、政治或军事统治的工具。这不是一个道德隐喻：这是一个呼吁，旨在防止竞争逻辑将共享基础设施转化为控制系统。 ## 在筛选现实的系统中追寻真理 如果技术集中了权力，其首要的具体影响之一涉及集体真理形成的方式。通谕涉及了虚假信息问题，但以更深层次的方式进行，因为感知到的现实，或者说体验，日益被那些决定展示什么、隐藏什么的系统所过滤。 这不只是关于假新闻或各种形式的虚假内容。问题在于，平台和算法根据最大化注意力和参与度的标准来选择信息。换句话说，变得可见的不一定是最真实的，而是最能引发反应的内容。这样一来，真理并未消失，但它变得依赖于那些影响舆论、感知和集体选择的不透明系统，而人们并不总是清楚它们如何运作。 因此，通谕坚持一种非常具体的文化和教育责任：培养能够识别这些机制的人，而不是将公共判断的构建仅仅托付给那些服务于市场或权力逻辑的数字基础设施。 教皇利奥十四世的首道通谕《伟大的人性》 2026年5月25日，教皇利奥十四世在梵蒂冈城宗座宫签署《伟大的人性》。 摄影：Simone Risoluti/Getty Images ## 劳动：一道断层线 同样的动态贯穿劳动世界，这也是通谕中最具体的要点之一。人工智能不仅被描述为自动化，更被描述为一股能够重新定义谁工作、如何工作以及有多大自主空间的力量。 在文本中，教皇明确谈到了与技术性失业相关的“社会灾难”风险，当创新主要由削减成本和增加利润驱动时。在这种情景下，许多活动可能被取代或被抽空人类内容，劳动者被降格为重复性或受严格控制的职能。 通谕还详细阐述了新的控制形式：自动化监控、任务碎片化以及自主感的丧失。令人担忧的不仅仅是工作岗位的丧失，更是劳动向某种更不人性、更不具创造性、因而更不自由的东西的转变。 正是在这里，与从文件一开始就援引的教会社会教义的联系重新浮现。正如《新事》曾试图诠释工业革命对人们具体生活的影响一样，《伟大的人性》也试图对数字革命做同样的事。在这种视野中，劳动不仅仅是经济生产或需要优化的绩效，而是一个体现尊严、责任和参与社会生活的空间。 因此，如果人工智能最终将劳动者简化为可测量、可控制、可替代的功能，那么问题就不仅是经济或技术性的；它成了一个社会的、政治的和深刻的人性问题。 ## 战争：冲突的自动化空间 当技术进入冲突领域时，文本最激进的方面出现了。教皇利奥十四世质疑了整个“正义战争”理念的结构，他认为这一理念日益不足以描述当代现实。不是因为否定自卫权，而是因为冲突本身的本质正在改变。 今天的战争已经充斥着影响信息、战略和敌人感知的自动化系统。算法并不作战，但它们促生了一种新的距离形式，在这种距离中，决策逐步远离人类身体和人类责任。 正因如此，通谕设定了一个明确的界限：将致命或不可逆的决策托付给人工系统是不可接受的。道德责任不能被委托，也不能在自动化链条中消解。在这一段落中，“为技术解除武装”的概念回归并成为一个具体原则，强调剥夺机器进入生与死决策过程的能力的重要性。 ## 一个开放的建设工地 《伟大的人性》的最终形象是一个建设工地。不是一个封闭的系统或已定义的模式，而是一个仍在建设中的过程。在这个“工地”中，技术、经济、信息和冲突相互交织。不是因为一切都相同，而是因为今天一切都在同一数字基础设施和权力关系中相互关联。 通谕的要点到此为止：问题不在于作为技术对象的人工智能，而在于它正在帮助建造什么样的世界。在这个世界中，决定性问题不再是技术能做什么，而是谁在控制它，出于什么利益，以及依据什么样的人类理念。 *这个故事最初发表于 *WIRED Italia (https://www.wired.it/article/disarmare-lintelligenza-artificiale-cosa-dice-lenciclica-di-leone-xiv-sul-potere-degli-algoritmi/)*，并由意大利语翻译而成。*