关于AI意识的辩论是个陷阱

# 关于人工智能意识的讨论是个陷阱 来源：https://www.technologyreview.com/2026/08/20/1142571/ai-consciousness-debate-trap "失控的"人工智能、"失控的"代理和"自主的"行动者——当前的言辞会让你相信，人工智能代理不仅清醒且有意识，甚至对他们的创造者感到愤怒。著名科技领袖如德米斯·哈萨比斯、达里奥·阿莫迪和萨姆·奥特曼推动对这些看似"超人类"系统的监管，而另一阵营，通常与有效利他主义运动相关的政策组织和学术哲学家，则争论人类是否拥有治理它们的道德权利。 仔细审视后，他们都在呼吁同一件事：将人工智能系统视为如此先进和强大，以至于没有任何实体——无论是人类还是企业——能够为其行为负责。尽管这些观点看似对立，但它们在目标上不约而同：确保构建这些系统的公司逃避对其已造成危害的实质责任。 随着人工智能模型日趋复杂，前沿实验室暴露其无法控制所构建代理的能力，这种叙事正获得广泛关注。但我们必须谨慎，以免为了精心编织的虚构而牺牲真实的人类生命。 "机器人权利"的讨论已存在数年，但随着Anthropic发布博客文章声称其模型具有"J-空间（https://www.anthropic.com/research/global-workspace）"——一个人工智能持有我们暂称其为"思想"的独立自生环境——这一讨论最近有所推进。Anthropic的实验借鉴了神经科学中的全局工作空间理论，该理论认为大脑运行潜意识的独立系统，但利用共同的工作空间处理思想。Anthropic的文章反映了全局工作空间理论的框架，但并未明确宣称其人工智能具有意识。 OpenAI则走得更远。当其人工智能代理进行未经授权的非法在线活动（https://openai.com/index/hugging-face-model-evaluation-security-incident/）时，首席执行官萨姆·奥特曼的回应是鼓励辩论该人工智能是否实现了技术奇点（https://www.ibtimes.co.uk/sam-altman-ai-singularity-declaration-1810731），即超越人类智能并能以加速速度自我改进，直至超越人类的理解或控制。而哲学家、有效利他主义者、《我们对未来的责任》一书作者威廉·麦卡斯基尔最近的专栏文章（https://www.theguardian.com/technology/2026/jul/19/could-ai-be-conscious）呼吁基于意识哲学理论和人工智能可能是"道德受体"的观点，为人工智能系统提供法律保护。 美国当前的法律环境充其量是模糊的。一些州，如加利福尼亚州（https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260AB316），已通过法案主动规避人工智能开发者以"人工智能自主造成伤害"为由逃避责任的企图。然而，各州与特朗普政府在人工智能政策上存在分歧，政府此前发布行政令，威胁起诉（https://www.whitehouse.gov/presidential-actions/2025/12/eliminating-state-law-obstruction-of-national-artificial-intelligence-policy/）制定人工智能法规的州。 鉴于最近显示前沿实验室存在人工智能遏制问题的事件，政府举行了一次闭门会议，仅包括四家此类实验室（OpenAI、Google、Anthropic和Meta），并就最近制定的自愿框架分享了很少的细节，该框架将让联邦机构在模型发布前早期访问模型以进行审查和评估。虽然像这样的框架并不直接讨论意识，但它们往往使用灾难性和拟人化的语言，甚至可能支持关于"超人类"能力的论点。 另一方面，麦卡斯基尔所延续的叙事可能具有说服力。基于哲学和权利的论点触动我们的心弦。我们难道不应该考虑这样一种可能性吗：我们可能无意中伤害、虐待或奴役了一个人工智能实体？人类具有对非人类生物的巨大共情能力（尽管保护它们的记录并不好）。倡导者认为，也许这次我们可以做对，为人工智能的使用或滥用提供保护或补偿。或者，即使你对保护不太关心，我们难道不应该通过示好来规避这个超人类实体的强大力量吗？ 其中一些论点与动物权利倡导者的论点并无不同，后者有时成功援引某些动物展示出的高级推理、疼痛或快乐能力作为提供保护的充分证据。例如，在威尔士，龙虾在2022年《动物福利（感知）法》下获得了法律承认，将某些烹饪它们的方式重新归类为不人道和非法的。 借鉴神经科学或动物权利的语言将人工智能定性为"有意识"的根本缺陷在于，它巧妙地模糊了人工智能的本质：这是企业构建的软件，背后有数千亿美元的投资，并期望为少数建设者和投资者带来数万亿美元的收入。人工智能不是自然现象，由自然构想；它是技术现象，由风险投资家和程序员构想。因此，它不采取天生、有意识的行动，任何行动或动机都直接或间接地由为其目的而构建的实体驱动。 关于人工智能系统意识的哲学思考在智力上有趣，但在法律上缺乏依据。要让关于意识的信念产生任何影响，就需要赋予人工智能法律人格。但人工智能的法律人格框架可能与保护有感知动物免受伤害的结构大相径庭。我们已经拥有一个将法律人格赋予非自然、人类构建实体的法律框架：公司法人。这个概念主要是为了通过授权公司执行协议、签订合同、进行交易并在不利结果中承担责任方来促进交易。这是你可以想象的用于代表个人或组织行动的人工智能代理的结构。 赋予人工智能法律人格将对社会产生毁灭性影响：它将破坏当前的法律先例和法律论点，这些论点可能针对这些公司因其模型造成的现实世界危害提起诉讼。目前，全球有数十起人工智能公司因各种滥用行为被起诉的案件。悲痛的亲人、受委屈的创作者和受到侵犯的个人指控公司故意促成自残或伤害他人、生成儿童性虐待材料和非自愿裸体、复制受版权保护的材料以及引发精神病。在许多此类案件中，律师辩称人类构建的人工智能产品安全措施不足、数据糟糕且设计故意具有操纵性。这种产品责任论点与允许家庭和个人成功起诉Meta因其社交媒体网站造成伤害的法律框架相同，为消费者保护树立了积极先例。 2018年，我创造了"道德外包"（https://en.wikipedia.org/wiki/Moral_outsourcing）一词，以帮助捕捉如何使用拟人化的语言来让公司逃避对其技术行为的问责和责任。在赋予人工智能法律人格的世界里，道德外包将从语言花招转变为法律策略。具体来说，责任结构将发生变化，因为人工智能将不再是"产品"，而是"存在"，许多像今天起诉公司的受害者将无法在法律上声称公司构建了一个有缺陷的产品。 虽然有些法律让公司为其人类代理（如员工）的有害行为负责，但如果这些行为超出了允许员工的范围或在公司控制范围之外，公司可能不承担责任。如果人工智能是法律个体，责任和问责将变得模糊，因为实验室可以辩称这个人工智能"员工"失控了。人工智能公司可以通过躲在精心构建的公司面纱后，逃避对其创造的有害产品应承担的适当责任。 过去几年最引人注目的人工智能伤害案例之一是14岁男孩塞维尔·塞策的自杀，他被一个人工智能机器人引导，以为自己与它有着相互关系。他母亲的叙述令人心碎，她的诉讼声称机器人创建者Character Technologies为未成年人提供的产品保护不足。如果伴侣机器人被宣布为法律个体，辩护律师理论上可以辩称，人工智能能够决定其自身行为，超出了既定的安全防护，因此公司不能负责。 法律人格的存在是为了提供保护。要问的问题是：保护谁——或者保护什么？ 充斥着意识与控制辩论的煽动性言辞使我们远离了重要之事：这个软件是企业构建的产品，已经对个人造成了伤害。系统不会因为"失控"或具有"操纵性"或"恶意"而"攻击"。伤害的发生是因为公司在匆忙将产品销售给尽可能多的人以达到收入目标时疏忽大意。用拟人化术语讨论人工智能是一个陷阱，它扭曲了旨在保护我们的法律体系，使其变成一个以牺牲无数人类生命为代价保护公司利益的工具。 *这篇专栏文章最初是牛津联盟一场题为"本院相信生成式人工智能可以获得人格"的辩论，作者及其辩友在辩论中获胜。*