观点：人工智能必须以地球为中心，而不仅仅是以人类为中心

# 立场：AI必须成为以行星为中心，而不仅仅是以人为中心
来源：https://arxiv.org/html/2606.13704
###### 摘要
本文认为，当代人工智能范式不足以支持复杂的全球目标，并提出了“以行星为中心的人工智能”（Planet-Centered AI, PCAI）作为一种设计哲学和研究议程，将人工智能重新定向到行星尺度的社会-生态系统及其长期轨迹。以行星为中心的方法以系统思维为基础，将地球视为一个相互连接的整体，人类是其中的一部分。我们诊断了AI框架中反复出现的局限性——其中许多仍然以人为中心——并展示了在当前以系统性风险、非平稳性和深度不确定性为特征的全球条件下，这些局限性为何变得尤为严重。然后，我们阐述了PCAI如何重塑AI生命周期，从问题制定和模型设计到评估和部署，强调与全球议程对齐、开发系统感知的AI基础、面向轨迹的评估以及可监控性。最后，我们提出一个可证伪的主张：没有明确考虑系统性后果而优化的AI系统，更可能加剧而非缓解系统不稳定。

机器学习，ICML

## 1 引言

过去十年中，AI社区发展了一系列范式来应对AI的伦理、社会和技术风险。诸如以人为中心的AI（Human-Centered AI）、负责任AI（Responsible AI）、AI为社会公益/可持续性（AI for Social Good/Sustainability）以及AI安全等框架，对于确立AI具有深远影响以及潜在危害和广泛影响应纳入算法设计和部署至关重要。尽管取得了这些进展，本文认为这些范式不足以使AI有意义地支持社会应对复杂挑战：机器学习必须重新定向到以行星为中心的范式，将系统性风险、长期影响和全球目标作为首要设计目标。

随着世界进入所谓的“多重危机”（polycrisis）（Lawrence et al., 2024 (https://arxiv.org/html/2606.13704#bib.bib64)），风险并非来自孤立的失败，而是来自耦合系统，其相互作用产生自强化和系统性的动态。考虑以下例子：海洋温度上升改变了捕食者-猎物动态，导致水母大量繁殖，堵塞沿海电厂冷却水进水口，引发被迫关闭和能源不稳定（Purcell et al., 2007 (https://arxiv.org/html/2606.13704#bib.bib46)）。这就是系统性风险——风险源于系统之间的耦合。同样，气候变化已被证明会加剧超过一半的已知传染病，通过超过一千条不同的路径连接物理、生态和社会系统（Mora et al., 2022 (https://arxiv.org/html/2606.13704#bib.bib45)）。在这种情况下，反馈循环、非线性相互作用和路径依赖——早期干预塑造并约束未来结果——可能放大风险，并将社会锁定在难以逆转的轨迹中（Delannoy et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib3); Steffen et al., 2018 (https://arxiv.org/html/2606.13704#bib.bib13)）。最近的研究表明，AI通过物质路径（例如，能源使用、资源开采、基础设施锁定）和信息路径（例如，塑造行为、加速决策周期、同步系统）日益与多重危机动态纠缠在一起，有可能加剧系统不稳定（Creutzig et al., 2022 (https://arxiv.org/html/2606.13704#bib.bib68)）。正是这种系统视角（Meadows, 2008 (https://arxiv.org/html/2606.13704#bib.bib63)）——关注反馈、交互和轨迹——在AI框架中仍然缺失（Kondor et al., 2024 (https://arxiv.org/html/2606.13704#bib.bib57)）。

我们认为，AI方法完全不适应支持全球性挑战，这些挑战表现出“棘手问题”（wicked problems）的特性（Rittel and Webber, 1973 (https://arxiv.org/html/2606.13704#bib.bib42)）：例如非平稳性和反馈驱动的动态。这种不匹配之所以重要，是因为这些条件日益成为AI部署的高风险领域（如气候治理、技术监管和公共政策）的特征（Ilcic et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib56)）。由于这种错位，AI可能通过以意想不到的方式与底层系统动态交互或放大它们，从而产生系统性风险（Schön et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib67)）。然而，预测和评估系统性影响的框架仍然有限，导致系统性风险的概念在AI治理中发展不足且无法一致地操作化（Carey, 2025 (https://arxiv.org/html/2606.13704#bib.bib65); Stahl et al., 2023 (https://arxiv.org/html/2606.13704#bib.bib60)）。

气候变化说明了为什么这种系统视角至关重要：全球变暖的规模不仅由人类排放驱动，还由地球系统内的强化反馈驱动。反馈，如水汽放大和云响应，大约使温度对人为温室气体排放的响应加倍或三倍，解释了至今观测到的1.2°C全球变暖的大部分（IPCC, 2013 (https://arxiv.org/html/2606.13704#bib.bib41)）。类似的技术系统动态也出现（Galaz et al., 2021 (https://arxiv.org/html/2606.13704#bib.bib66); Ilcic et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib56)），早期的设计选择、部署激励和治理可能固化的行为，即使累积危害变得明显时仍持续存在。在这两种情况下，有效干预依赖于理解反馈、长期动态和系统性交互（Stirling, 2010 (https://arxiv.org/html/2606.13704#bib.bib61)）——这些维度是当前AI范式难以表达的。

我们提出“以行星为中心的人工智能”（Planet-Centered AI, PCAI）作为一种设计哲学和研究议程，以补充以人为中心框架的局限性。以人为中心的方法正确地关注保护个人免受伤害，但往往不考虑环境风险、长期动态和系统性影响。而以行星为中心的方法将这些视为人类和行星未来的构成要素。PCAI将责任从用户、社区和社会扩展到包括生态系统、系统性风险和地球系统动态，将智能重新定义为集体理解和行星管理（planetary stewardship）的工具。

## 2 人类世（Anthropocene）中当代AI范式的局限性

在整个AI伦理景观中，出现了对保护人类的有力承诺（Jobin et al., 2019 (https://arxiv.org/html/2606.13704#bib.bib80)）。以人为中心的AI（HCAI）（Shneiderman, 2020 (https://arxiv.org/html/2606.13704#bib.bib12)）和负责任AI等框架已将研究扩展到狭窄的性能定义之外（Schmager et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib79)），引入了诸如可解释性、人类监督、鲁棒性和公平性等需求，以及向人类增强的转变。然而，我们认为这些范式在人类世仍不够充分（Creutzig et al., 2022 (https://arxiv.org/html/2606.13704#bib.bib68)）。人类世是指人类活动——日益以技术为中介——已成为塑造地球系统的主导力量的地质时代。其特点是全球互联性、非线性变化、紧密耦合的动态以及放大的系统性风险——这些动态正日益被AI加速（Delannoy et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib3); Galaz et al., 2021 (https://arxiv.org/html/2606.13704#bib.bib66)）。

### 2.1 人类世中的棘手问题（Wicked Problems）

AI局限性的一个核心根源在于“棘手”与“温顺”（tame）问题之间的区别，这一概念最初是为了解释为什么科学和工程方法在复杂的社会和政策领域常常失败而提出的（Rittel and Webber, 1973 (https://arxiv.org/html/2606.13704#bib.bib42)）。温顺问题——如谜题或定义明确的优化任务——具有稳定的目标、一致认可的问题表述以及客观的成功标准。即使技术复杂，它们也可以被分解、优化并根据固定目标进行评估。棘手问题则表现出违反这些假设的特性（注1：附录A提供了一个诊断棘手性的方法，并将棘手系统属性映射到它们违反的AI假设。）（Peters, 2017 (https://arxiv.org/html/2606.13704#bib.bib10)）：目标具有争议性且非平稳；干预改变系统动态；影响跨领域传播；结果在漫长且不确定的时间范围内展开。没有明确定义的全局最优解，没有安全的试错学习机制，也没有可靠的成败评估。例子包括气候变化减缓与适应、生物多样性保护、可持续性转型和减贫，这些干预措施与社会、经济和生态系统相互作用（Toyama, 2010 (https://arxiv.org/html/2606.13704#bib.bib21)）。问题还进一步以深度不确定性为特征，其中系统的关键要素——因果结构、反馈、目标或未来状态——是未知的、有争议的或无法可靠量化的（Marchau et al., 2019 (https://arxiv.org/html/2606.13704#bib.bib7)）。特别是，人类世的挑战常被描述为“超棘手”（super-wicked），因为它们加剧了这些特征：决策具有高赌注且可能不可逆转，反馈随时间放大，并且必须在深度不确定性和时间压力下采取行动。

（图片标题）图1：棘手问题、其结构性困难来源以及AI失败的机制。

### 2.2 人类世中的AI失败机制

我们认为，人类世挑战的特性与AI中的假设处于紧张状态，这种不匹配导致了AI的非预期和系统性后果。接下来，我们将审视现有实践，强调AI在棘手情境中的失败机制。

#### 2.2.1 技术错位（Technical Misalignment）

技术错位指的是当AI（例如，建立在平稳性、样本独立性和闭世界假设之上）被部署在其动态结构性地违反这些条件的棘手情境中时产生的失败（图1 (https://arxiv.org/html/2606.13704#S2.F1)；参见附录A (https://arxiv.org/html/2606.13704#A1)和表2 (https://arxiv.org/html/2606.13704#A1.T2)的诊断方法）。这些假设使得在温顺领域可以进行优化、基准测试和迭代改进，并非所有可持续性问题都是棘手的：例如，协调风电场中风力涡轮机的方向以最大化能量输出，涉及明确的目标、稳定的系统边界和直接可测量的成功（Howland et al., 2022 (https://arxiv.org/html/2606.13704#bib.bib6)）。然而，当类似方法应用于棘手挑战时，这种错位变得后果严重。基于AI的生物多样性监测用于保护，运作于纠缠在一起的社会-生态系统中，目标具有争议性且边界具有渗透性。此类干预会重塑行为——改变土地使用、执法实践、冲突动态和监视关系——同时引入隐私风险（Duffy et al., 2019 (https://arxiv.org/html/2606.13704#bib.bib5); Sandbrook et al., 2021 (https://arxiv.org/html/2606.13704#bib.bib36)）。即使是出于善意的部署也可能错误引导系统轨迹，因为学习问题变得不适定，并且涌现后果——由组件交互而非任何单一组件产生——超出了任务级评估的范围。

#### 2.2.2 价值与进步的狭隘框架（Narrow Framing of Value and Progress）

进步的概念被隐式编码在AI中：性能通常通过效率、准确性、规模或通用性的增益来衡量（Pansera and Fressoli, 2021 (https://arxiv.org/html/2606.13704#bib.bib52); Birhane et al., 2022 (https://arxiv.org/html/2606.13704#bib.bib51)），嵌入了一种将进步等同于优化和扩张的发展观念。实证分析表明，有影响力的AI研究绝大多数优先考虑定量性能提升，而明确阐述社会效益或危害的情况仍然罕见（Birhane et al., 2022 (https://arxiv.org/html/2606.13704#bib.bib51)）。这种框架与市场驱动的发展理论一致，其中生产率和增长是社会价值的代理（Pansera and Fressoli, 2021 (https://arxiv.org/html/2606.13704#bib.bib52)）——这些假设在耦合的社会-生态系统中是有问题的，因为AI可能被记录为成功，同时却加剧了不平等、脆弱性或环境退化（Schön et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib67)）。替代视角强调分配公平、韧性、人类能力以及与生态限制的兼容性（Pansera and Fressoli, 2021 (https://arxiv.org/html/2606.13704#bib.bib52); Kallis et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib20)）——这些标准在AI生命周期中大部分缺失。

与此同时，许多AI治理框架阐述了高层次的价值愿望——如以人为本或社会公益——但未具体说明如何操作化（Jobin et al., 2019 (https://arxiv.org/html/2606.13704#bib.bib80); Whittlestone et al., 2019 (https://arxiv.org/html/2606.13704#bib.bib62)）。这种不充分规定最终推迟了关于权衡和责任的棘手问题（Mittelstadt, 2019 (https://arxiv.org/html/2606.13704#bib.bib8)）。核心概念如“人”或“善”仍然模糊：人类可能被隐式地视为用户、消费者或工人，尽管这些角色涉及不相容的价值和后果（Bucknall and Dori-Hacohen, 2022 (https://arxiv.org/html/2606.13704#bib.bib77); Selbst et al., 2019 (https://arxiv.org/html/2606.13704#bib.bib9)）。因此，道德愿望通过问题表述、代理变量和指标转化为技术目标，这些内置了隐式的价值权衡而未得到持续审视（Birhane et al., 2022 (https://arxiv.org/html/2606.13704#bib.bib51); LaCroix and Luccioni, 2025 (https://arxiv.org/html/2606.13704#bib.bib59)）。社交媒体推荐就是一个例子。这些系统通常通过参与度指标——点击、分享、停留时间——来定义进步，并据此取得成功。然而，参与度作为代理变量将用户交互的内容等同于用户想要的内容。对Twitter/X的算法审计发现，该平台基于参与度的排序算法放大了情绪化和对外群体敌意的内容，并且重要的是，用户并不喜欢算法选择的政治内容（Mill et al., 2025 (https://arxiv.org/html/2606.13704#bib.bib30)）。

#### 2.2.3 纠缠系统中的影响盲点（Impact Blind Spots in Entangled Systems）

AI治理和伦理领域的一致发现是，影响评估的范围狭窄且在整个生命周期中整合不足（Stahl et al., 2023 (https://arxiv.org/html/2606.13704#bib.bib60); UNESCO, 2023 (https://arxiv.org/html/2606.13704#bib.bib58)）：系统综述突显了缺乏预测间接、累积、长期和代际影响的方法（Stahl et al., 2023 (https://arxiv.org/html/2606.13704#bib.bib60); Kondor et al., 2024 (https://arxiv.org/html/2606.13704#bib.bib57)），评估通常局限于任务、模型或部署环境（Ahlborg et al., 2019 (https://arxiv.org/html/2606.13704#bib.bib4)）。在耦合的社会-生态系统中，这会产生两种