[在此插入AI]是AI,并且可以(即有完全法律许可)犯错
摘要
文章认为,像'AI可以犯错'这样模糊的法律免责声明降低了AI公司提高质量的动机,导致幻觉率的逐底竞争。
我认为,这种法律免责声明,特别是,正在促成AI质量被认为在下降。在法律上,这里的关键在于'可以'这个词。读者不应将其解读为'很可能'或'有机会',而应解读为:'可能'或'在法律上被允许'。如果AI公司在免责声明中写道:'AI预计会犯错10%的时间',甚至50%的时间,这将设定一个风险情况,即企业用户能够明确地将现场15%的技术故障(或相应60%)追溯到用于设计的AI产品,从而对该AI公司提起法律诉讼。'可以'(即'可能')这个词实际上允许这个百分比是任何数字——或者更确切地说,是由整个行业的平均幻觉率决定的数字。这导致了逐底竞争。公司只需要相互竞争,如果它们的幻觉率都在同一范围内,那么就更有动机投资于功能蔓延以超越竞争对手,而不是修复基线。因此,开发者没有被要求将幻觉率降低到接近零。AI不被允许犯错,就像(真正的)自动驾驶系统不被'允许'犯错一样——然而,犯的错误越多,消除它们的经济动机就越少。
相似文章
这篇由thehackernews撰写的关于AI幻觉的文章,本身竟然是用AI写的,lol...我们必须采取行动阻止这种现象。
本文讨论了AI幻觉如何造成真实的安全风险,并强调了2025年的一项基准测试,该测试显示大多数AI模型会给出自信但错误的答案。文章解释了原因,并呼吁对AI输出进行人工验证。
AI幻觉可能比人类更“人性”
文章指出,AI幻觉其实映射了人类的认知偏差——确认偏误、过度自信等,它们并非纯粹的技术缺陷,而是像人类一样在知识缺口处“脑补”的结果。
当AI代理造成重大失误时,谁该承担责任?
本文探讨了当AI代理犯下代价高昂的错误时的责任归属问题,分析了开发者、用户和监管机构在法律和伦理方面的影响。
AI公司应对模型错误负责
文章认为,当AI模型出现代价高昂的错误时,AI公司应承担责任,并借鉴其他行业的产品责任案例进行类比。
代理权转变:当AI犯错时,谁买单?
本文探讨了随着AI代理接管消费者任务,责任发生的转变,并指出企业正在将AI失误的成本转嫁给用户,而非自己承担。