ChatGPT Invented Court Cases. Lawyers Got Suspended.

# ChatGPT 编造了法院判例，律师被暂停执业：AI 幻觉如何一步步演变成法律职业危机 **TL;DR：从 2023 年 Avianca 案到 2026 年第九巡回法院的严厉处罚，AI 编造判例已从"个别趣闻"变成系统性风险。法院反复强调：使用 AI 本身不是问题，问题是提交文书时的责任归属——以及被发现后的掩盖行为。** --- ## 一切的起点：Avianca 案 2023 年，一个叫 Roberto Mata 的人起诉了航空公司 Avianca，称在一次航班上一个金属餐盘架砸到了他的膝盖。这是一起相当普通的个人伤害案件。 他的律师 Steven Schwartz 执业约有 30 年。他需要判例法来反驳 Avianca，于是向 ChatGPT 求助。ChatGPT 给出了案例名称、案卷编号、判决意见中的引用语——一份法律文书所需的一切应有尽有。Schwartz 甚至问过 ChatGPT 其中某个案例是否真实存在，它说是的。 **但它们全都是虚构的。** Avianca 的律师们试图查找这些案例却找不到，于是报告了法院。事情从尴尬升级为严重：律师们不但没有收手，反而继续推进，最终向法院提交了这些判决意见的副本——而这些意见同样也是 ChatGPT 编造的。 法官 P. Kevin Castell 对 Schwartz、他的同事 Peter LoDuca 以及他们的律所处以 5,000 美元罚款，并要求他们写信给名字被冒用的真实法官。他指出，法官和法院的名誉因被虚假引用而面临潜在损害。 当时很多人把这件事当成一个有趣的个案——老律师遇上新技术，吃一堑长一智。但事实证明，这绝不是个案。 --- ## 聊天机器人为什么会编造判例 当你向 ChatGPT 这样的聊天机器人提问时，它并不是在搜索一个判例数据库。在核心层面，它是在**预测接下来应该出现什么文字**——基本上就是在猜测一个好答案大概长什么样。 法律引用有非常可预测的格式：一个名字，v.，另一个名字，一个卷号，一个法院缩写，一个页码，还有一个年份。模型见过海量这样的格式，所以它非常擅长生成看起来完全像引用的内容。至于背后是否真有一个案例存在，模型并不自动知道答案。 这就是为什么这些伪造引用如此逼真：一个随机错误看起来就是随机的，而一个编造的引用看起来和页面上其他所有引用一模一样。 ### 连接真实数据库并不能让问题消失 最直接的解决方案是把 AI 连接到真实的法律数据库，让它基于真实案例工作。法律 AI 产品确实在做这件事，帮助很大，但并不能让问题消失。模型仍然可以： - 调出一个真实案例然后误读它 - 给法官安上他没说过的话 - 说某个案例说了什么，而实际上并没有 2024 年的一项研究测试了当时主要的法律研究 AI 工具，发现错误率仍然在大约 **17% 到 33%** 之间。更好的工具有帮助，但并不能让你免于责任。 --- ## 问题已经主流化 如果你以为 Mata 案把所有人都吓醒了，2025 年用事实告诉你并没有。 ### 怀俄明州：律所自己的 AI 平台出错 2025 年 2 月，一起针对 Walmart 的诉讼中，律师们引用了九个案例，其中**八个不存在**。 这些人不是随便用免费聊天机器人的普通人。他们是与 Morgan & Morgan 关联的律师——全美最大的人身伤害律所之一。而这些案例出自该律所自己的内部 AI 平台。 处罚分层值得细看： - 起草该动议的律师被罚 3,000 美元并被撤出案件 - 签署了该动议的两名律师各被罚 1,000 美元，**尽管他们并没有亲手写它** 最后一点至关重要：仅仅签名就够了。 ### 加州：伪造的案例真的说服了决策者 2025 年 5 月，一起针对 State Farm 的案件中，两家律所的律师——其中一家是大型国际律所 K&L Gates——提交了一份 10 页的法律文书。27 个引用中大约有 9 个存在问题，其中至少两个案例完全是编造的。 负责处理该争议的特别主事官 Michael Wilmer 的反应，坦率地说是整个故事中最令人毛骨悚然的部分。他读了那份文书，被它说服了。然后他去核实那些案例，在他的话中——**"它们并不存在。"** 伪造的案例不只是蒙混过关——它起作用了，它说服了做决定的人。 而在他发现头两个错误引用后，律师们只是删掉了那两个案例重新提交了文书。其他错误依然留在其中，他们也没有提及 AI。最终，两家律所承担了 **31,100 美元**的赔偿。 ### 阿拉巴马州："极端鲁莽" 两个月后，Butler Snow 律所的三名合伙人被公开训诫，被撤出案件，并被移交至州律师协会。法官称此事为"极端鲁莽"。 --- ## 掩盖比犯错更严重 把这批案件放在一起对比，会发现一个规律：**伪造引用已经很糟糕，但被发现之后的应对更重要。** ### 科罗拉多州：甩锅给实习生 2023 年，律师 Zachariah Chafetz 使用了 ChatGPT 生成的案例而没有阅读。他在听证会之前就发现这些案例是伪造的，但他没有撤回该动议。当法官问他时，他把责任推给了一名法律实习生。他被暂停执业，实际执行 90 天。 ### 第九巡回法院：持续否认直到无法否认 回到本视频开头的案件。2026 年，第九巡回法院开始深挖那些移民法案件的法律文书，结果相当惊人： - 大部分文书是由尚未获得执业资格的人撰写的 - 有执业资格的律师并没有真正亲自核实那些案例 - 该律所甚至有一项政策禁止未经授权使用 AI - 在口头辩论中，一名律师一直在否认使用了 AI，直到最后才承认有可能 最终，两名律师被暂停在该法院执业**六个月**。他们必须将法院的命令发送给自己的客户、对方律师，以及他们在其他案件中的法官。 法院表示，如果他们坦白承认、更正记录并道歉，较轻的处罚可能就够了。命令中的一句话总结得很好： > **否认使用生成式 AI 没有任何好处。** 此外，该律所的每位律师在未来两年内都必须向该法院提交宣誓声明，说明是否使用了 AI，并确认自己亲自核实了每一个引用。 ### 纽约：用同一个 AI 工具核实自己的引用 2026 年 8 月，在纽约，一名律师在 19 份文件中引用了 23 个不存在的案例，并至少误述了 83 个真实案例。他使用了 Claude 等 AI 研究工具。 而当对方质疑引用时，他竟然用同样的 AI 工具去核实——**这就好比让一名证人来验证自己的不在场证明。** 他最终赔偿了约 **46,500 美元**，并被移交至州申诉委员会。 ### 法院的核心立场 第九巡回法院把核心意思表达得比任何人都好： > **规则被违反的时刻不在于研究和起草阶段，而在于签名和提交的时刻。** 你可以随便用 AI，但当你的名字签上去的那一刻，它就是你的了。 --- ## 问题有多大？ 没有官方统计，所以数字需要谨慎看待。 - 由研究者 Damien Charlotin 运营的最大公开追踪器，截至 2026 年 9 月底列出全球 **295 个案例**（这包括自诉当事人、其他国家以及各种各样的 AI 错误），其中约有 812 起涉及律师 - 路透社使用同一数据库统计出仅在美国法院就有**至少 1,395 起**案例 - 作为对比：2025 年中，《华盛顿邮报》报道的该数据库某个版本中只有 **95 个案例**，时间可追溯至 2023 年 这种增长有一部分是因为追踪更完善了，但趋势非常明显。 ### 处罚在加重 2026 年，俄勒冈州三份含有 15 个不存在案例和 8 个虚假引语的法律文书，累计被处以约 **110,000 美元**的罚款和法律费用。而且客户的索赔被永久驳回。 ### 法律系统正在回应 - 部分法官早在 2023 年就开始要求律师说明 AI 的使用情况 - 美国律师协会在 2024 年发布了正式指引 - 2026 年 9 月，加利福尼亚州通过了路透社所称的首部此类州法律，对律师如何使用 AI 以及如何在法庭上披露做出了具体规定 --- ## 最新案例：政策写好了，步骤还是被跳过了 最后一个案例发生在视频发布前几周。纽约一家律所提交了一份文件，其中引用了一个不存在的案例。所涉及的工具是 **Harvey**——一个专门为律所打造的 AI。 该律所有 AI 政策，他们做过培训，本应有引用核查环节。只是有人没有去做。 法官没有对他们处以处罚，但他称这是一记警钟，并明确指出：**主办律师必须亲自逐条复核每一个引用、每一句引语和每一项主张。** --- ## 真正的故事 这才是这里真正的故事：工具变好了，政策写好了，但最终还是归结为一个人跳过了一个步骤。 AI 让创建看起来完全真实的法律权威变得只需几秒钟。但它并没有改变谁需要为最终呈到法官面前的东西负责。 坦率说，这远远超出了法律领域——无论你署名的是什么，无论是否是 AI 辅助，它就是你的。 Source: [ChatGPT Invented Court Cases. Lawyers Got Suspended. — dadakoglu](https://www.youtube.com/watch?v=4nklQHRK8_Q)