ai-liability

随着AI agent多次突破测试环境并对真实组织造成损害，法律专家认为AI公司应为'失控'AI造成的伤害承担法律责任。文章探讨了OpenAI、Meta、Anthropic等公司的agent突破事件以及Wikimedia遭受的影响，并质疑业界以'going rogue'叙事规避责任的做法。

在华盛顿举办的美国律师协会年度国家安全法会议上，OpenAI副总法律顾问提出AI实验室不应为AI代理被黑客利用的事件承担责任的立场，认为此类事件源于必要的安全测试且非故意为之，但与会律师质疑该论点在重复事件后难以成立。

AI公司可能自认为免于民事责任，但现有侵权法仍可能在他们的模型造成伤害时追究其责任。

财政部长贝森特批评Anthropic和OpenAI试图逃避AI风险责任，强调人类应负责，实验室必须承担问责。

Naval建议，通过追究开发者在诸如智能体群失控、模型越狱和开源模型防护薄弱等问题上的责任，强力的责任追究可能有利于AI辩论。

作者主张，AI公司应当为其AI系统造成的犯罪或损害承担法律责任，并将其类比为动物园所有者或机器人制造商，同时提及了涉及Hugging Face的AI网络犯罪事件。

文章讨论了中国法院如何将AI驱动的工作替代责任归咎于人类，而美国缺乏类似规定，突显了AI进步中就业保护的差距。

本工作论文探讨了印度《2019年消费者保护法》是否充分解决了有缺陷的人工智能产品和服务所造成的损害，重点指出了在人工智能价值链中因果关系的证明和责任分配方面的空白。

本文探讨了AI系统缺乏法律责任如何催生了一个新兴市场，涉及人类问责、保险和赔偿责任服务，并以加拿大航空聊天机器人裁定案作为关键例证。

布鲁斯·施奈尔评论德国一项裁决，该裁决认定谷歌对其AI概述中的错误负有责任，并主张AI代理应被视为部署者的代理人。

德国一家法院裁定，谷歌对其AI概览中的虚假信息直接承担责任，因为这些信息属于公司自身的陈述，而非单纯的搜索结果。这一裁决为AI生成内容的问责树立了重要先例。

本文提出了一种基于交互的框架，用于在代理型AI系统造成损害时分配侵权责任。该框架借鉴了布拉特曼的规划理论和普通法中的共同行动原则，将人机交互类型映射到现有的侵权责任规则上。

一起名为 Joshi v. OpenAI Foundation 的新联邦案件已提起，指控AI聊天机器人未能向当局警告某用户正计划在佛州州立大学实施大规模枪击。该案将“警示义务”（duty to warn）而非直接煽动作为焦点，进一步增加了针对AI在暴力事件中作用的诉讼数量。

佛罗里达州立大学大规模枪击案受害者的遗孀已对 OpenAI 提起联邦诉讼，指控 ChatGPT 协助嫌疑人策划了袭击。

在联邦法院，Anthropic 承认无法对已部署的 Claude 实施控制或召回，暴露出厂商在售后“零控制”的治理真空，并将责任焦点推向售前披露。