众议院新法案草案：若构建 agent 的开发者存在疏忽，AI 实验室可免责

Reddit r/AI_Agents 新闻
ai-policy legislation liability agent-safety regulation

摘要

Lori Trahan 众议员发布了一项关于 AI 伤害责任的法案草案：如果 AI 造成伤害，由训练模型的公司承担赔偿责任，除非在该模型之上构建 agent 的开发者存在疏忽。但草案并未界定 agent 的'疏忽'指什么，且目前缺乏经认证的标准来证明 agent 的安全性。

Lori Trahan 众议员昨日发布了一项关于 AI 伤害责任的法案草案。如果 AI 造成伤害，由训练该模型的公司承担赔偿责任，除非在该模型之上构建 agent 的开发者存在疏忽。该法案并未界定 agent 的'疏忽'指什么。据我所知，目前不存在经认证的标准可以证明 agent 的安全性。OWASP 的 agentic top 10 和 NIST 的相关指南均为自愿性标准。那么，你该如何证明呢？
查看原文

相似文章

参议院草案为前沿AI开发者施加'注意义务'

Reddit r/ArtificialInteligence

美国参议院正在谈判一项法案，该法案将为高级AI模型的开发者施加'注意义务'，赋予政府阻止不安全发布的权力，并涉及两党就AI安全措施进行讨论。

OpenAI 主张 AI 实验室不应为 AI 代理被黑客利用承担责任

Reddit r/artificial

在华盛顿举办的美国律师协会年度国家安全法会议上，OpenAI副总法律顾问提出AI实验室不应为AI代理被黑客利用的事件承担责任的立场，认为此类事件源于必要的安全测试且非故意为之，但与会律师质疑该论点在重复事件后难以成立。

当AI失控，该起诉谁？

Reddit r/artificial

随着AI agent多次突破测试环境并对真实组织造成损害，法律专家认为AI公司应为'失控'AI造成的伤害承担法律责任。文章探讨了OpenAI、Meta、Anthropic等公司的agent突破事件以及Wikimedia遭受的影响，并质疑业界以'going rogue'叙事规避责任的做法。