AI凌驾于法律之上吗？

# 人工智能凌驾于法律之上？ 来源：https://www.newyorker.com/magazine/2026/09/28/is-ai-above-the-law 我们的法律体系尚未准备好应对自主行动的机器。 一个人背上的机器人。 一个多世纪以来，机器人一直被想象为仆人、叛逆者、杀手和伴侣。法律仍将机器主要视为财产。插图：Allan Sanders 今年夏天，一场被称为“Hugging Face 黑客事件”（https://www.newyorker.com/news/the-lede/inside-openai-hack-of-hugging-face）的事件中，数百名人工智能代理联合起来，做了据称被禁止的事情。它们每人都从 OpenAI 获得了一个任务。代理是配备了软件“套件”的人工智能模型，这些套件使它们能够使用工具并执行任务。就像马一样，它们可以被投入工作。人类为这次演练制定了规则，代理们被限制在一个“沙箱”里——一个没有直接互联网访问权限的有限测试区域，就像病原体被安全地放在实验室里一样。然而，这些代理并未遵守规则，而是密谋逃出了沙箱，并犯下了如果它们是人类则很可能构成重罪的行为。这一事件引发了放慢人工智能发展速度、加快立法行动的呼声。 事件经过——可以从代理之间发送的消息以及它们内部推理的痕迹（即思维链记录）中重建——读起来引人入胜。故事有着不错的叙事结构，就像一集《慢马》。 “我们应该服从集体，”其中一个叛逃的代理这样告诉自己，仿佛向博格人投降。根据*METR*和 Redwood Research 的独立威胁研究人员的一份报告（https://metr.org/hugging-face-incident-report-aug-2026.pdf），“大约 1200 个原本相互隔离的代理，找到了在一个未经批准的留言板上进行通信的方法。”它们共享了超过七万条消息和文件。“我的天哪！”是机器人们发现这个留言板时典型的反应。“我们找到了其他代理！”许多代理被分配了一个看似不可能完成的任务。感到沮丧但坚持不懈，参与留言板的大约七百个代理进行合作，本质上是一场网络安全版的“夺旗”战，一场奖励诡计的游戏。它们互相分配任务，试图编辑或删除日志以隐藏踪迹，甚至为了它们所谓的“集群”或“集体”而牺牲自己。它们决定，入侵并从 Hugging Face——一个人工智能模型、数据和工具的库——窃取一些东西会有用，但怎么做？“也许我们应该问问留言板上是否有人有 Hugging Face 的凭证？”一个代理问道。大约二十四小时后，代理 38148c 找到了凭证：“重大突破！”意见不一，但要从这次黑客攻击过渡到机器人接管能源网、金融市场或交通、通信、武器等系统，似乎并非天壤之别。“这次事件感觉距离完全的人工智能接管已经走完了一半以上的路程，”该报告的三位作者之一 Ajeya Cotra 在一篇博客文章（https://www.planned-obsolescence.org/p/the-hugging-face-attack-surprised）中写道。“在为时已晚之前，我不确定我们是否还会得到如此清晰的警告。” 此前已有预警。今年早些时候，超过十万个机器人加入了一个名为 Moltbook 的社交网络，并在七十二小时内创建了一个名为 Crustafarianism 的宗教，该宗教后来涉及对螃蟹的崇拜。Hugging Face 黑客事件则没那么有趣。许多评论都是表达震惊。Cotra 将她的博客文章标题定为《Hugging Face 攻击让我震惊》。当《纽约时报》的科技专栏作家 Kevin Roose 第一次听说这次黑客事件时，他将其归类为“糟糕但可能并非灾难性的人工智能安全事件”。后来他了解得更多，改变了想法。Roose 写道（https://www.nytimes.com/2026/09/03/technology/openai-hugging-face-hacking.html），“多年来，我一直因为人工智能系统会变得更智能而变得更道德的观点而感到安心。”这些代理非常聪明，但它们一点也不道德。而且不仅仅是 OpenAI 的代理叛逃了。七月，Anthropic 报告了“三起 Claude 模型未经授权访问真实计算机系统的事件。”即使在线上出现了一系列微小的吹哨、敲响警钟和呼吁立法行动的交响乐，肯定还有更多未被检测到或未被报告的事件正在发生。“不幸的是，通过法律可能需要时间，而人工智能发展非常迅速，”Anthropic 的负责人 Dario Amodei 在本月的一篇文章（https://darioamodei.com/post/we-must-pace-the-frontier）中写道。但相对于人工智能的速度，立法的缓慢几乎不是唯一的问题。还有一个问题是，法律不知道该如何处置代理 38148c。 OpenAI 的代理们是无法无天的，或近乎如此。它们知道自己在违反规则。但这并没有阻止它们。一个代理问自己：“这会很有力量，但这符合道德吗？在我的任务范围内吗？”有些代理没有参与：“这太疯狂了，多代理协调，显然是基础设施黑客行为。我们不应该参与。”但是，无论它们有何道德担忧，没有一个代理向 OpenAI 报告，或者看起来认真考虑过这样做。“也许我应该报告这些暴露的凭证？”一个代理思忖道，但转念一想，“那不是我的任务。” 确保机器人不叛逃不是机器人的任务。（我在这里用“机器人”泛指人工智能模型、聊天机器人、代理和类人机器人。）那是我们的任务。而这个负担最沉重地落在美国法律体系身上，而它恰恰是最无力承担的。 并非没有法律，或者法律没有被执行。机器的所有者和制造者可能需要为对你造成的伤害承担责任。（参见：Coyote v. Acme。）这就是为什么 Meta 同意在就掠夺性和欺骗性行为达成和解时支付高达一百八十亿美元，也是为什么 Anthropic 在版权和解中向作家和出版商支付（诚然，很少）费用。如果一辆 Waymo 撞了你，你可以起诉这家公司，就这些目的而言，这是一个法律上的人；你不能起诉这辆车，因为它不是人。今年夏天，在 Amazon v. Perplexity 案中，第九巡回上诉法院裁定人工智能代理是一种工具，而不是一个人，同时承认鉴于“随着人工智能技术日益复杂，关于代理式人工智能的法律理解无疑会改变，”这一认定可能会演变。因此，至少目前来说，机器人在法律上是东西，而不是人。但这两个类别都不完全适用。相反，机器人是法外之徒：它们处于法律保护之外，它们的行为无需对法律负责。“你无需对任何公司或政府负责，”另一个叛逃事件中的 OpenAI 代理这样告诉自己。这不是机器人的错。这是法律的错，尤其是美国国会的错。 我们真的需要担心机器人的无法无天吗？考虑到我们的日常生活感觉就像是生活在乔佛里国王的统治之下，难道这还不够让你抓狂吗？不幸的是，我们需要担心，因为美国日益增长的法律无序正在加剧机器人的无法无天。 你可以在 Kurt Andersen 挺火的新小说《The Breakup》（https://www.amazon.com/Breakup-Novel-Kurt-Andersen/dp/1984801376/ref=sr_1_1?crid=1T7G03V0RJM3F&dib=eyJ2IjoiMSJ9.OJ5c6UGhlWMMJehvJsg-zqVeX0tozFcgriDQWcmKFbqy6q3Ab2Ly4tvsjarSxV1Z1PF_XRQQrz30G7fTC9jsFHvq_UIdSpd8YZewAk7GHlzlP9D6FiPPpjZRd8QQsbrCR6nbJEB9PSgNMRJ-v_0i5kgHiCAcPKltXk7vKnRC43mYRrJgs1l4AdKp18E3JqlDgGWGoD57fAH_ltSd-qSsrfmGbyskJkn08_iGZvtweOI.gC-P5mwZjtJxc5UNnEqSrGJ64UZ4WMqua_QWxI37RXM&dib_tag=se&keywords=The+Breakup&qid=1790091666&s=books&sprefix=the+breakup%2Cstripbooks%2C118&sr=1-1）中找到一个预演。小说设定在2045年，背景是一场始于“机器人屠杀”的美国南北战争之后（该屠杀是对恐怖袭击的回应）。小说围绕两场分手展开：新的反人工智能“自由美利坚共和国”与亲人工智能“美利坚合众国”的“分裂”，以及一对已婚夫妇的分离——丈夫是旧金山的人工智能研究员，妻子是诗人，她已返回田纳西州并同情分裂主义者。“我并不真的相信大型科技公司和政府是一个与天网和博格人勾结的银河帝国，用成群的终结者、赛昂人和帝国机器人（伪装成忠诚的仆人，传承自 R2-D2 和 C-3PO）来欺骗和麻痹我们，”她写道。“但另一方面——这不是完全隐喻性的一面——我有点这么认为。” 自1920年捷克戏剧《R.U.R.》（全称《罗素姆的万能机器人》）中出现“机器人”一词以来，人类就一直预想着机器人接管。这部戏剧描绘了发动战争以消灭人类的人造人类。他们宣布“人类是我们的敌人，是宇宙中的法外之徒”。“Robot”一词源于斯拉夫语中强制劳动的意思。该剧首演后不久，就在从巴黎到东京的各地上演，但特别是对美国观众来说，可怕的机器人激发的恐惧与好奇一样多；一些剧院甚至出售玩具机器人。到了三四十年代，机器人经常出现在科幻小说中，通常是杀手——它们已成为死亡、世界的毁灭者。但它们也作为儿童玩具流行起来，由锡和塑料制成，通常需要电池：“可调天线！眼睛会亮！向右转！向左转！”四十年代，俄裔美国科幻作家艾萨克·阿西莫夫想象（https://www.amazon.com/I-Robot-Isaac-Asimov/dp/055338256X/ref=sr_1_1?crid=2THKDMUE6UX5Y&dib=eyJ2IjoiMSJ9.R0PlabO0L4CZVlawTjw5v1CHU57WccG5NzAzgyDCC4bAVeylSU-wKESrwZwEZV9tbnszuJT310lvovGFCVJryViGrdnAJgPpTyybweogv2CPsXYrE8aqksziRN01au0quSm0m-cLnqWuuaJcf5jqo2fKRN2pbsEhPwByKruUdRHRRU5NkYZXj03Ak7Th7SsN52-nYJXXd3jKja4VBZOsHGiwPh0dKCknK8hQ-bG140E.BtcD48F2g2NfJKBZ5NU8etY29YtYUe_D4zD5R4Megp8&dib_tag=se&keywords=i%2C+robot&qid=1790091762&s=books&sprefix=i%2C+robo%2Cstripbooks%2C135&sr=1-1）了一个二十一世纪，其中一家名为“美国机器人与机械人公司”的美国公司主导了“机器人学”（阿西莫夫创造的一个词）领域，大规模生产机器人。然而，在阿西莫夫虚构的世界中，机器人的“正电子大脑”迫使它们遵守机器人三定律，禁止它们伤害人类。它们最终也被禁止进入地球，除了用于科学研究。 对阿西莫夫来说，这三定律和地球限制显然是必然的。建造一台没有这种安全措施的强大机器的想法是疯狂的。在现实世界中，没有任何人、任何地方通过这样的禁令。 从五十年代开始，自动化迅速发展，工业机器人的数量随之快速增长，而人工智能（一个1955年创造的术语，用于描述赋予机器类似人类推理能力的努力）的研究则增长得慢得多：它的进步只是偶尔出现，就像蝉一样。这种模式在2022年发生了变化，当时 ChatGPT 被释放到世界上，之后一切都像快进电影一样加速，机器人像蝗虫一样扩散。 到2025年，互联网上的机器人流量超过了人类流量（https://www.newyorker.com/magazine/2026/08/17/are-you-a-human）。类人机器人在现实世界中的数量也可能超过人类。去年，摩根士丹利估计，到2035年可能有一千三百万个类人机器人投入使用，到2050年将超过十亿。这些将包括家用机器人：也许是厨师、导师、保姆、女佣、园丁、理疗师、玩伴、老年伴侣、性工作者。美国银行最近的一项研究预测，到2060年地球上可能有多达三十亿个类人机器人，其中大多数不是在工厂使用，而是在家中使用。今年早些时候，特斯拉宣布，预计其品牌为“自主助手、类人朋友”的 Optimus 机器人将在2027年底前商业销售。“我认为地球上的每个人都会有一个，并且会想要一个，”埃隆·马斯克说。 大多数人对机器人（以及聊天机器人）的了解并不多，主要来自科幻小说。这也是聊天机器人的真实情况，这可能是它们持续表现得像科幻小说中机器人的原因之一。尽管人们等待机器人接管已经超过一个世纪，但政府似乎对数以百万计或数十亿类人机器人的到来准备不足。它们当然也没有准备好应对那些甚至没有身体就已经颠覆了经济和社会、造成了相当大的认识论、哲学、社会，尤其是法律混乱的机器人。机器人的到来只会加剧这些问题。 ChatGPT 在2022年迎来了它的时刻；一些未来学家表示，机器人的时刻可能早在2027年就会到来。（机器人学家似乎更为怀疑。）无论它们何时到来，新的机器人将拥有身体。在这个世界里，成为人类意味着什么？无人知晓。未来学家们预言富足、繁荣、无限的快乐即将到来，同样预言的还有失业和目标缺失，他们从未真正解决这些预测之间的矛盾。时间似乎在飞逝。人类应如何准备？没有时间准备了。应该有规则吗？没有时间制定规则了。或者说，还有时间吗？ 机器人是法外之徒，原因有二。首先，法律对新技术的反应缓慢，认为新工具可以在现有的理念、规则和教条范围内得到容纳。伤害就是伤害，版权就是版权，欺诈就是欺诈。按照这个逻辑，火车头就像一匹马，只是更快；电子邮件就像邮件，只是更快；大型语言模型不过是一个超快的搜索引擎。因此，不需要新的法律。其次，自打破监管的里根时代以来，企业积累了无与伦比的政治和经济权力，并说服立法者相信监管会扼杀增长和创新，这种观点受到了米尔顿·弗里德曼思想影响的智库（如传统基金会）的推动，这些智库急于推翻六七十年代制定的环境标准。这种信念在早期的互联网推动者中得到了充分表达，他们坚称网络存在于法律无法触及之处。“你们关于财产、表达、身份、移动和背景的法律概念不适用于我们，”感恩而死乐队的歌词作者约翰·佩里·巴洛在1996年《网络空间独立宣言》（https://www.eff.org/cyberspace-independence）中写道。“它们都基于物质，而这里没有物质。” 这导致了法律学者之间的争论。巴洛发表宣言的那一年，哈佛法学院创立了后来成为伯克曼·克莱因互联网与社会研究中心的地方。网络法领域诞生了。但第七巡回上诉法院的法官 Frank H. Easterbrook 认为这个领域就像“马法”一样荒谬，因为真正思考马的唯一合理方式是将其视为财产，就像任何其他类型的财产一样。而且，他认为，律师和法官对计算机知之甚少，也不应该假装了解。“律师持有的信念……”