法院裁定谷歌对AI概览生成的虚假陈述承担责任

# 法院裁定：谷歌需对AI概述生成的虚假陈述承担法律责任 来源：https://www.wired.com/story/a-court-has-ruled-that-google-is-liable-for-false-statements-generated-by-ai-overviews/ 德国一家地方法院作出了一项裁决，可能重塑全球搜索引擎和人工智能聊天机器人的运营模式。慕尼黑地区法院初步裁定，谷歌对其AI概述功能生成的一系列虚假陈述负有法律责任，要求该公司防止通过其搜索引擎传播错误或不准确的声明。 该裁决源于一起由Decoder首次报道的案件。在该案中，两家出版商发现，谷歌的AI生成摘要将他们在某些搜索中与可疑商业行为、诈骗和订阅相关欺诈联系起来，而实际上毫无依据。 据该报道称，今年早些时候，受影响的公司向这家科技巨头发送了一封停止侵权函。谷歌否认责任，辩称其自动摘要功能提示用户信息可能存在错误，应自行核实。 法院分析得出结论：谷歌的AI将与被标记为可能存在非法行为的其他公司相关的信息与原告数据结合，生成了在搜索引擎所链接的任何来源中都不存在的关联。 法院认为，与传统搜索引擎仅显示第三方声明的链接列表不同，谷歌的工具基于对互联网信息的错误解读，生成了“独立、全新且实质性的陈述”。 根据法院意见，纠正错误信息并非第三方的责任。谷歌是唯一有能力修改其AI摘要所依托技术的实体，因此“必须承担责任”。此外，法院认为谷歌的辩护理由不成立，因为受质疑的摘要“包含的陈述根本不存在于搜索结果中”。 ## 对网络AI角色的全新（且有力）诠释 法院对AI在呈现搜索结果中扮演的角色所做出的诠释，可能使此案成为历史性的先例。它首次认定一家大型科技公司为其最先进的技术对广泛使用平台的影响力负责。 在此之前，在大多数法律体系中，搜索引擎被视为仅是帮助用户获取第三方创建并发布在互联网上的内容的工具。这种地位为其在发布虚假、不准确、误导甚至诽谤性信息时提供了一定程度的保护。 然而，德国法院认为，当搜索引擎整合了生成式AI系统时，这种保护不再适用。根据其推理，这项技术能够基于多个来源创造出不存在的声明，因此，运营该技术的公司必须对由此产生的内容承担责任。 法官们还认定，尽管谷歌因AI模型固有的幻觉可能性而鼓励用户核实信息，但这种警告并不能免除内容分发者的责任。否则，他们辩称，虚假陈述的受害者将几乎无法获得法律救济，因为原始来源从未发布过这些陈述，因此无法对其提起诉讼。 同样，法院认为，AI系统生成的结果不能受到言论自由原则的保护，因为它们是由一家公司设计、训练和管理的算法的产物，而非个人意见的表达。 作为防止再犯的预防措施，该裁决要求谷歌删除本案中被认定为诽谤性陈述的大部分内容，并承担诉讼产生的80%的法律费用。 据Ars Technica报道，一位公司发言人表示，该裁决可能会被上诉。“我们大力投资于AI概述的质量，确保绝大多数回复都能提供准确信息，并且它们的设计初衷是反映网络上存在的信息，”声明中写道，“我们正在仔细审查这一尚未最终生效的裁决。”