使用ChatGPT的律师因引用虚构证人的虚假证词而受惩

# 使用ChatGPT的律师因引用捏造证人的虚假证词遭处罚 来源：https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/ “你这是在掩耳盗铃” “我当时不知道AI会编造事实，”新墨西哥州辩护律师表示\. 图片来源：Getty Images \| NurPhoto 新墨西哥州最高法院判定一名使用ChatGPT的律师犯有直接藐视法庭罪，因其提交的辩护摘要包含“完全捏造的证人的虚假证词”，包括伪造的警方证词及其他错误\.该州最高法院将该律师移交纪律委员会进一步处理，并认定其“缺乏悔意且对其当事人漠不关心\.” 州最高法院在周三的一项裁定中指出：“律师斯蒂芬·阿伦斯向法院承认，在签署并提交AI生成的辩护摘要前，他未核实其中的事实主张和法律依据，也未告知当事人这一疏漏，或该摘要存在多处事实与法律表述错误\。” 阿伦斯在新墨西哥州担任刑事辩护律师已超过40年，受被告家属委托对谋杀定罪提出上诉\.其当事人奥斯卡·雷内·桑多瓦尔已于2025年2月被判终身监禁（https://donaanacountyda.com/oscar-sandoval-sentenced-to-life-plus-4-5-years-following-his-conviction-for-first-degree-murder/），罪名是杀害其伴侣及子女的母亲希琳·阿尔-吉布里（https://kfoxtv.com/news/local/trial-of-oscar-sandoval-in-mesilla-murder-case-nears-conclusion-las-cruces-new-mexico-nm-shiereen-al-jibury-emotional-testimonies-juarez-ciudad-mexico-mex-chihuahua-mesilla）\. 2025年8月，阿伦斯提交了包含虚假证词及其他错误的辩护摘要\.数周后，新墨西哥州提交了删除该摘要部分内容的动议\. 周三的法庭裁定称：“被申请人向法院承认，其主辩护摘要包含来自完全捏造的证人的虚假证词——包括米歇尔·阿马里洛警官、桑切斯警官、玛纳尔·阿尔-吉布里和特蕾莎·马奎斯，”裁定书还指出，阿伦斯在引用先前判例时“歪曲了法律依据”\. ## 律师将庭审记录输入ChatGPT 根据法庭记录，阿伦斯进一步承认提交了“丹尼·斯坦顿收到威胁的虚假证词”、“琳达·斯坦顿关于其丈夫收到威胁的虚假证词”，以及“关于枪手衣着外貌的玛利亚·查韦斯和特蕾莎·马奎斯（捏造证人）的虚假证词”\. 已有众多律师因在辩护摘要中引用虚假案例（https://arstechnica.com/tech-policy/2025/11/lawyers-keep-giving-weak-sauce-excuses-for-fake-ai-citations-in-court-docs/）或错误描述真实判例而被查处\.虽然阿伦斯未引用虚假案例，但他错误描述了真实判例并引用了虚假证词\. 阿伦斯在8月21日的听证会（https://www.youtube.com/watch?v=rk6ChLa8utU）上向州最高法院陈述，他将计算机生成的谋杀案庭审记录及相关文件输入ChatGPT，系统输出了虚假引述\. 阿伦斯对法庭表示：“得知正是我的愚蠢让各位在此会面，这实在令人安慰\.”他承认辩护摘要引用了“数位从未在庭审中出庭的证人”，另一名“虽曾出庭但摘要错记姓名的证人”，并且摘要错误描述了判例\. 阿伦斯指出其使用的是基于OpenAI o3模型的ChatGPT版本，该版本于2025年初发布\.他解释道：“我以为它会生成无懈可击的庭审摘要，”并表示因AI在法律和医疗领域的广泛应用，他认为该工具应当准确可靠\. 阿伦斯被禁止在纪律委员会调查及程序结束前出庭新墨西哥州最高法院\.他被处以5000美元罚款，须缴纳至新墨西哥州律师协会当事人保护基金，但根据法院指令的纪律程序可能追加处罚\. 州最高法院指令公设辩护人为被告指定新律师，撤销所有先前辩护摘要，并宣布该案将在2026-27年开庭期审理\. ## 法官：“你这是在掩耳盗铃” 上月的听证会上，法官们严厉斥责了阿伦斯\.他们对阿伦斯不知AI工具可能生成虚假信息表示惊讶，并指出律师必须核实信息的准确性，无论其来源如何\.法官强调，无论是借助AI工具、法学实习生还是同行律师的帮助，签署辩护摘要的律师都必须担保其准确性\. C·香农·培根法官的批评尤为尖锐\.她告知阿伦斯其“至少违反了行为准则中的八九项规定\.”培根表示她“难以接受”阿伦斯关于不知晓AI幻觉的说辞，指出她13岁的侄子和75岁的继母都知晓此问题\. “律师先生，您看新闻吗？听广播吗？阅读世间动态吗？因为律师依赖AI幻觉的问题每天都占据新闻头条，”她质问道\.“因此要么你是在掩耳盗铃——这是你的选择，刻意让自己无知——要么你在赌博，但无论哪种都与行为准则不符\.” 阿伦斯回应称其摘要提交于一年前，且“过去一年已出现许多相关报道\.”然而，律师在辩护摘要中引用AI编造判例的问题已持续被报道超过三年（https://arstechnica.com/tech-policy/2023/05/lawyer-cited-6-fake-cases-made-up-by-chatgpt-judge-calls-it-unprecedented/）\. 阿伦斯补充说明其摘要引用的判例并非虚构，尽管摘要中的描述存在错误\.培根反驳道，错误描述真实判例与引用虚假判例之间“并无实质区别”，因为对法庭的坦诚义务规则对此“同等适用”\. ## “我当时不知道AI会编造事实” 阿伦斯今日接受Ars采访时提供书面声明称： > “2025年3月我同意代理上诉案件，并使用ChatGPT总结庭审过程\.我撰写了辩护摘要，但目录和摘要部分存在大量错误\.当时我不仅不知道AI可能在我的摘要中编造事实，也不知道其他律师提交的诉讼文书中也存在类似情况\.我很高兴法院驳回了我的缺陷文书，并指令公设辩护人代表我的前当事人提交新摘要\.至于我个人，我深表悔意，但希望纪律委员会考虑到这是一次无心之失\.这是所有依赖这项强大但有时不稳定技术的专业人士的教训\.” 阿伦斯告诉法庭，他首先使用Rev\.com（音频文件AI转录服务）生成转录稿，然后将该转录稿及其他材料输入ChatGPT\. 当被问及是否在输入ChatGPT前确认过转录稿准确性时，他表示：“我相信我确实确认过\.”并补充道：“问题不在转录稿，而在我将其加载到ChatGPT时\.”除转录稿外，阿伦斯称其输入了“案件记录、争议要点陈述及部分证据开示材料”\. 阿伦斯希望法院采取措施防止其他律师重蹈覆辙，例如发布常设命令要求辩护摘要包含AI使用合规证明\.法官们认为该建议偏离了其未核实摘要准确性的核心问题\. 培根指出：“假设你依赖的是一位初年级律师的工作成果，而他们完全是在编造……你签署了文书\.你将陷入与现在完全相同的困境\.”她强调：“因此你在文书中暗示的——因法院当时未警告你‘谨慎行事’，就可免除责任——这种想法完全被无视，因为职业行为准则已明确规定了你的义务\.” ## “你的当事人承受着痛苦” 培根继续表示：“你的回应中完全缺失的一点，是对此事给当事人造成影响的任何考量\.”“这才是我关心的\.你向法院提交了我们无法采信的辩护摘要，你的当事人因此承受的痛苦将远大于你所承受的\.” 首席大法官朱莉·巴尔加斯同样告诫阿伦斯：“我对你在听证会上的态度很感兴趣\.你似乎在向我们阐述多年来的政策思考——如何应对AI问题，但并未谈论如何解决眼前的状况，而这直接影响着一位在押刑事被告，在我们解决此事前他将持续羁押\.我此刻并不关心政策问题\.”“我关心的是我们将如何处置你的当事人，以及根据你的行为在此情境下应当如何作为\.” 迈克尔·维吉尔法官指出，使用AI辅助撰写法律论证本身并无过错，但律师必须核实其准确性\.“工具无关紧要\.”“AI程序的先进程度或未来改进也不重要，”他强调\.“无论你雇佣的是C级学生还是A级学生律师，若未在提交摘要前核查其工作，结果都一样\.”“这才是问题所在\.”“我希望你专注于此，承担责任\.” 阿伦斯回应道：“我并非不愿承担责任\.”“我唯一期望的是，我犯下的错误能阻止他人重蹈覆辙，因为AI的能力确实令人惊叹\.” ## 律师未告知当事人及其家属使用ChatGPT的情况 培根批评阿伦斯未向当事人披露问题\.当被问及是否告知桑多瓦尔时，阿伦斯回答：“尚未告知\.”“他是西班牙语使用者，我想先看看今天的情况\.” 阿伦斯表示其受雇于桑多瓦尔的兄弟和表亲，并告知他们摘要存在问题\.“他们知道我提交的首份摘要存在问题，法院正在审查\.”“大概如此\.” 培根质问道：“你是否说过‘我依赖ChatGPT，它向法庭提交了虚假信息，法庭正在追究我，现在举行听证会了’？我猜你并未告知当事人家属\.” “我没有提及ChatGPT，”阿伦斯说\.“只告知摘要存在问题\.”培根指出当事人需要知晓问题的严重性，以便决定“你是否仍是适格的辩护人\.” 培根询问阿伦斯是以公设辩护人合同还是私人律师身份代理此案\.阿伦斯回答是以私人律师身份受聘，但尚未获得报酬\. “我不确定这是否会发生，”培根回应道\. 乔恩·布罗德金照片（https://arstechnica.com/author/jon-brodkin/） 乔恩是Ars Technica高级IT记者，报道电信行业、美国联邦通信委员会规则制定、宽带消费者事务、诉讼案件及科技行业政府监管\. 58条评论（https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/#comments） 1. 最热文章首位配图：物理学家解析《星际迷航》“皮卡德机动”（https://arstechnica.com/science/2026/09/physicist-does-the-math-on-star-treks-picard-maneuver/）