你有哪些“这就是为什么我们不能盲目信任AI”的故事？
摘要
文章讨论了一位律师在准备证词时依赖ChatGPT，结果引用了两个不存在的案例的真实事件，法官在法庭上指出了这个错误，并引发了关注。文章还邀请读者分享自己经历的AI失败故事。
我前几天看到一位律师用ChatGPT准备证词，结果它引用了两个不存在的案例。法官在法庭上指出了这个错误，这件事还挺尴尬的。https://apnews.com/article/artificial-intelligence-chatgpt-fake-case-lawyers-d6ae9fa79d0542db9e1455397aef381c?utm_source=copy&utm_medium=share 所以我想知道，你在工作、学习或日常生活中见过哪些AI完全跑偏的例子？最好笑、最昂贵或者最让人痛苦的都行。
相似文章
使用ChatGPT的律师因引用虚构证人的虚假证词而受惩
新墨西哥州一名辩护律师因提交包含ChatGPT生成的虚假证词的简报而被判藐视法庭。他承认未核实内容，导致纪律处分。
法院如何应对AI生成诉讼的激增
一项针对450万联邦民事案件的新研究发现，AI正推动自辩诉讼激增，AI检测到的文本比例从2023年的1%上升至2026年的18%。虽然AI帮助诉讼当事人更清晰地表达论点，但也引入了虚假引用，并引发关于聊天机器人因提供不良法律建议而需承担责任的合法性问题。
我们是不是被忽悠了？
一篇评论质疑AI在商业中的广泛采用是否被夸大，文中引用了对普通员工的采访，他们表示只少量使用ChatGPT等工具。
我们请《未来真相》的作者解释他是如何使用AI的。结果不太顺利。
在有关虚构引用的报道后，WIRED调查了Steve Rosenbaum的著作《未来真相》，揭示了他使用ChatGPT和Claude等AI工具的情况，以及验证AI生成内容的难度。
AI安全的另一半
文章批评AI安全领域专注于灾难性风险，却忽视了像ChatGPT这样的聊天机器人对日常心理健康的危害。引用OpenAI自身数据，数百万用户表现出精神病、躁狂或自杀意念的迹象，却仅被重定向，未进行硬性拦截。