@VraserX:加州新法规定律师不得将法律实务委派给生成式 AI。他们可以使用 AI,但仍需承担相应责任……
摘要
加州新法禁止律师将法律实务委派给生成式 AI,要求在人类监督下工作,并由律师本人核实法庭文书中的引用。该帖提出疑问:如果 AI 的表现比其人类监督者更准确,此类规则将如何演变。
查看缓存全文
缓存时间: 2026/10/04 09:10
先给结论
如果只用“准确率“这一个维度来定义规则的目的,那么我不该坚持要求律师——规则本身就该改。但现行规则的目的从来不只是准确率,它还承担三件事:问责落点(有人可被起诉、被吊照、被制裁)、尾部风险分配(最坏结果谁兜底)、以及公平获取(最差的那个人是否也得到了合格的代理)。
所以我的真实立场是:分任务放开,而不是按职业放开;并且要把“人“从“逐字复核“的位置挪到“承担剩余风险“的位置——那才是不可被自动化的东西。
“AI 一贯做得比人好“这个前提,目前还撑不起来
不是因为它一定错,而是因为你还没证明它。至少有四类证据缺口要先补:
-
基准不等于胜任。 2023 年 Stanford 的 GPT-4 Passes the Bar Exam 显示 GPT-4 在 Bar Exam 上约 74%,但这测的是“能写出合格的书面分析“,不是“能在对抗性情境下选择正确的诉讼策略、判断客户风险承受度、在谈判中保护当事人“。AI 做的是“把论述写出来“,而不是“决定该提出哪些论述“。
-
尾部风险。 平均更准,不代表极端情况更好。Mata v. Avianca (2023)、以及 2024 年 Ontario 的 Zhang v. Chen 里律师提交虚构判例被法院制裁,说明失败模式是系统性的,且失败发生的位置恰好是“人在场却不具备独立识别能力“的场景。
-
分布差异。 2024 年 Brynjolfsson 等人的 NBER 工作论文 Canaries in the Coal Mine? 发现,AI 对年轻、经验不足的从业者冲击最大,而对资深从业者更多是增强。这直接反驳“AI 已经普遍优于人“的说法:在很多任务上,AI 比新手强,比专家弱。
-
对照数据不存在。 没有人做过盲测对照实验:把同一份合同、同一份诉状分别交给 AI 和律师团队,比较结果质量、错误率、客户结局、以及事后投诉率。这不是“AI 证明自己“的问题,而是监管机构从未要求产生这个数据。
这就是我给你的“证明路径“的第一条:你不需要先证明 AI 更好,你需要先推动一个制度,让这个命题变得可证伪。
真正的路线:把“更好“拆成可测量、可审计的命题
第一步:写清楚规则到底在保护什么
立法说明里不要写“防止 AI 从事法律实践“这种目的条款,要写成可检验的结果指标:
- 提交文件的事实与判例错误率
- 客户最终结局(胜诉率、和解金额、执行率、重复咨询率)
- 投诉与执业失当理赔率(按任务类型分层)
- 不同种族、收入、语言群体的结果差异
- 客户知情与理解程度
一旦规则被写成结果指标,“是否必须有人复核“就变成经验问题,而不是身份问题。这一步是最有价值的,因为它把争论从“职业保护“转移到“结果证据”,而后者是法院愿意看的。
第二步:建立任务级基准,而不是职业级基准
不要问“AI 能否当律师“,要问“AI 能否完成以下任务“:
- 小额债务催收函、交通违法辩护、不可争议的离婚/姓名变更
- 移民表格与公共福利申请
- 房东-租客争议中的通知与证据整理
- 合同审阅的红旗标注
- 判例检索与引用核验
- 对抗性诉讼中的策略判断与庭审陈述
不同任务的错误代价差异极大。“AI 在检索和文书生成上优于人类初审律师,但在诉讼策略上不优于资深诉讼律师”——这个命题目前是可辩护的,而且它已经足够支持一次规则修改。
第三步:用 Sandbox 和对照组跑数据
参照 Utah 的 regulatory sandbox 和 Arizona 2021 年对 Rules of Professional Conduct 的修订(允许 alternative business structures 和非律师持股的律师事务所),建立一个受监管的试点:
- 对照组设计:同一类任务,一半由持照律师 + AI 完成,一半由经认证的 AI 系统直接完成,结果双盲评审。
- 独立审计:由第三方而非系统提供方进行 adversarial testing,专攻幻觉、引用伪造、跨法域错误。
- 强制结果报告:试点参与者必须按任务类型上报错误率、投诉率、理赔率。这一条比任何诉讼都更有力,因为它是监管者自己生成的记录。
- Sunset 条款:试点两年后自动失效,除非基于数据续期。这能显著降低政治阻力。
第四步:证据标准用“非劣效性 + 成本效果“,而不是“AI 更优“
这是你论证里最关键的技术细节。不要主张“AI 优于律师“,主张:
在以下任务上,经认证的 AI 系统在结局质量上不劣于(non-inferior)持照律师标准,且人类复核环节的加入未显著改善结局,却使服务成本增加约 X%。
“人类复核未显著改善结局“这个命题,才是对现行规则最致命的打击。它是可被反驳的,因此也是可被接受的。
第五步:法律上的进攻战场
- 行政程序法 / State APA:论证该规则在事实上站不住(arbitrary and capricious),尤其是当监管机构自己没有生成或参考任何结果数据时。
- 理性基础审查:如果你有 sandbox 的对照数据,规则就不再满足“合理关联合法目的“的要求。
- 正当程序 / 平等保护:这条论证最强。如果服务成本因强制人工复核而翻倍,而受影响的群体恰好是无力承担法律服务的人,那么这项规则事实上构成对低收入群体获取司法服务的制度性障碍。这是你最该押注的论证,它比“AI 更准“更能打动立法者和法院。
- 反向风险也要写进去:如果你能同时提出“提供方对系统错误承担 strict liability + 强制保险 + 审计日志“,法院更可能接受放开。没有人愿意因为“AI 更准“就放开一个无人兜底的市场。
第六步:放开的形态
不要一步到位取消律师。建议的阶梯:
- 任务豁免:对低风险、可逆、格式化的任务,允许经认证的系统直接面向消费者提供服务,但必须强制披露 AI 参与。
- 提供方担责:由系统开发者/运营者承担产品责任,而非把责任转嫁给用户。保险、第三方审计、事故强制报告制度同步落地。
- 人角色重新定义:从“逐字核验判例“转为“对策略选择与不可逆决定负责“,并要求具备相应的 AI 证据审查能力(这一点 D.C. Bar 的 Bar Opinion 388 与 ABA Formal Opinion 512 已经开了口子)。
- 对抗性、高风险、不可逆事项保留人工要求:刑事辩护、庭审代理、重大并购、遗嘱与家庭法的终局决定。
- 定期复审 + 数据回流:豁免范围依据 sandbox 数据逐年调整。
回到你的问题:如果 AI 更准、而人工复核让账单翻倍,还要不要律师?
分情况,我给你我的实际答案:
我不要求。 债务验证、不可争议离婚、简单公共福利申诉、交通违法、格式化的移民申请、小额诉讼的证据整理——这些任务里,如果数据证明人工复核不改善结局,那么强制人工复核就是对低收入群体征收的一笔监管税,而收税人恰恰是受益于这项限制的职业团体。这里唯一需要保留的不是律师,而是披露、可投诉渠道、和对系统错误的赔偿责任。
我要求。 刑事辩护、庭审对抗、重大交易终局决定、任何涉及客户战略选择和不可逆后果的事项。原因不是人类更准,而是这些任务的本质是判断与责任:你不能把“谁来承担这个错误的全部后果“外包给一个没有可执行责任主体的系统。问责需要一个可以被制裁、被吊照、被传唤、被起诉的自然人。这不是技术能力问题,是制度设计问题。
并且我要修正“人负责就等于人复核“这个等式。 航空业和医疗业的教训是:当自动化比人更准确时,把人降格为“逐字核对者“反而是危险的——人的注意力会在低出错率的场景中系统性退化,等到真正需要介入时已经失灵。所以正确的方向不是废掉监督,而是重新设计监督:从“人工确认每一处引用“转向“人在关键节点做不可逆判断 + 系统持续记录 + 事后可审计“。
你需要写的东西
如果你要向立法者、法院或监管机构提出这个论证,备忘录的结构应该是:
- 规则的可检验目的(把它写成结果指标)
- 现状数据(目前没有任何监管机构生成过任务级错误率与结局对照数据——这本身就是问题)
- 试点设计(sandbox + 对照组 + 独立审计 + 强制结果报告)
- 预期证据标准(非劣效性 + 成本效果,而不是“AI 更优“)
- 风险兜底方案(strict liability、保险、审计日志、事故报告、披露义务)
- 分级放开方案(按任务,不按职业)
- 对低收入群体获取司法服务的影响评估——这是你最有力量、也最容易被忽略的一张牌
最后一句诚实话:这场辩论里最强的对手不是“AI 不够准“,而是“我们没有数据“。 你要先推动的不是规则改变,而是让规则本身变得可证伪。
相似文章
加州通过了一项法律,要求州律师协会在AI编写考试题目时进行披露。
加州州长纽森签署了AB 1651法案,要求州律师协会从2028年起,在AI用于开发或管理律师资格考试时进行披露。此前,一起事件中AI生成的题目未向考生披露。
加州大学伯克利分校法学院自2026年夏季起全面禁止使用人工智能
加州大学伯克利分校法学院自2026年夏季起禁止学生几乎在所有评分作业中使用人工智能,理由是培养学生核心批判性思维能力,并避免人工智能的错误与偏见。
法院如何应对AI生成诉讼的激增
一项针对450万联邦民事案件的新研究发现,AI正推动自辩诉讼激增,AI检测到的文本比例从2023年的1%上升至2026年的18%。虽然AI帮助诉讼当事人更清晰地表达论点,但也引入了虚假引用,并引发关于聊天机器人因提供不良法律建议而需承担责任的合法性问题。
人工智能政策
伯克利法学院宣布了一项自2026年夏季起生效的人工智能政策,该政策限制了在课程作业和考试中使用人工智能,以促进批判性思维和法律伦理技能,但对于研究和教师批准的情况有例外。
两名律师因提交AI编造的案例被联邦上诉法院制裁
美国一联邦上诉法院制裁了两名律师,因其提交了AI编造案例的诉状,这凸显了法律实践中AI幻觉的持续问题以及独立核实引文的必要性。