随着AI系统日益复杂,学者们竞相制定法律框架。
摘要
随着AI系统日益先进,法学学者们正竞相制定新框架,以应对聊天机器人等AI工具的责任归属、问责机制及潜在法律人格等问题。
根据具体情况,AI工具可被视为产品、服务、自主代理或实体,或许有朝一日这些实体将需要某种形式的法律人格。这场辩论正在全球范围内展开。
查看缓存全文
缓存时间: 2026/06/01 17:47
# 争相监管AI系统,律师们创意频出
来源:https://news.northeastern.edu/2026/05/26/the-race-to-regulate-ai/
若有人根据人工智能工具(如聊天机器人)提供的信息实施犯罪,该工具是否应承担责任?
这些聊天机器人被编程模拟人类思维模式,并日益被视为伙伴——它们是否应接受法律审查,承认这些工具正在发展的独立性或自主性?
这些问题并不简单,但全球各地的律师正在努力应对,从美国的少数案件(https://www.cnn.com/2026/04/29/us/video/chatbot-murder-accomplices-rosales-digvid-vrtc)到欧洲正在审议的法规。
随着AI智能体日益强大,政府和监管机构也在权衡这些问题。作为回应,一些机构正在设计新的法律框架来管理这项新兴技术,以预见其能力持续演进——甚至可能超越人类想象。专家表示,最终立场将影响AI的监管方式,并可能决定当系统歧视、造成伤害或引导人们违法时,由谁承担责任。
尽管刑事责任问题仍在争论中,但辩论的核心是一个更基本的问题。
“根本问题是:聊天机器人是什么?”东北大学法学与人文学科杰出教授帕特里夏·威廉姆斯(https://law.northeastern.edu/faculty/williams-p/)说道。她近年来一直在撰写(https://yalereview.org/article/patricia-williams-when-ai-speaks)关于AI伦理和哲学范畴的文章。
## 东北大学全球新闻,直达您的收件箱
订阅NGN每日通讯,获取来自世界各地的新闻、发现和分析。
根据上下文,AI工具可被视为产品、服务、具有一定推理和规划能力的自主智能体(https://mitsloan.mit.edu/ideas-made-to-matter/agentic-ai-explained),或者在辩论的更激进角落中被视为未来某天可能享有某种法律人格的实体。专家表示,每种分类对法律责任和问责制都有不同影响。
“当它们被简单地归类为*产品*——由公司提供的某种东西——这与将之视为服务或人类服务范畴的关系截然不同,”威廉姆斯说。“服务可以受到……民权法、公平法和问责问题的约束,其方式与一个‘破损’的产品截然不同。”
专家称,如今所谓的“智能体AI系统”(不同于聊天机器人,具有一定独立行动能力)在法律界广泛被视为“无生命”对象,缺乏意识、主体性或自我意识。
但威廉姆斯认为,挑战在于治理和监管与许多AI公司和系统的专有立场本质上是矛盾的。公司往往抵制外部监管,并在所谓的“黑箱”中开发系统,这意味着其内部运作方式大体上保密。
威廉姆斯表示,在美国,辩论开始触及“AI人格化”这一更具前瞻性的概念——这将意味着将目前仅适用于“人”的权利、保护或法律地位赋予聊天机器人等工具。这是因为,在法律哲学中,“人”(https://www.law.cornell.edu/wex/legal_person)不一定是人类,而是任何能够拥有法律承认的权利或责任的实体。
例如,在俄亥俄州,立法者正试图先发制人(https://www.legislature.ohio.gov/legislation/136/hb469),通过预先宣布AI系统为“无感知”,来阻止任何更广泛的赋予AI人格化的努力。爱达荷州和犹他州(https://www.californialawreview.org/online/ai-personhood)等州也出台了类似措施,反对将AI系统归类为法律人。
在加利福尼亚州(https://calcivilrights.ca.gov/2025/06/30/civil-rights-council-secures-approval-for-regulations-to-protect-against-employment-discrimination-related-to-artificial-intelligence/)和科罗拉多州(https://leg.colorado.gov/bills/sb24-205),立法者较少关注人格化,而是更注重规范AI系统的部署方式,尤其是在就业、住房、医疗保健和歧视方面。
在欧洲,监管机构通常采取更广泛的AI治理方法,注重隐私保护、公司使用算法的透明度以及AI平台在出错时的问责制。
但在分类辩论中也有创意性和小众的分支:例如,一些法律学者回溯到罗马法(https://www.cambridge.org/core/journals/legal-studies/article/bridging-the-accountability-gap-of-artificial-intelligence-what-can-be-learned-from-roman-law/8B2B88D50E0A795F358C2F53958BDB43),借鉴奴隶的行为很少给主人带来后果的历史,以更深入理解AI系统与其人类创造者和操作者之间的“问责缺口”。
东北大学法学院法律与社会学副教授希拉里·罗宾逊(https://law.northeastern.edu/faculty/robinson/)表示,欧洲之所以成为全球最激进的数字隐私监管者,很大程度上是因为隐私保护明确列入了欧盟的宪法框架。
欧盟全面的数据隐私和安全法律——被称为《通用数据保护条例》(GDPR,https://gdpr.eu/what-is-gdpr/)——是欧洲对AI技术监管方式最清晰的例子。罗宾逊说,自2018年实施以来,该法律允许欧洲监管机构对全球科技公司施加严格规则,并建立了“被遗忘权”(https://gdpr.eu/right-to-be-forgotten/)等机制,允许个人在某些情况下要求从在线平台删除个人数据。
有了GDPR,就难以出现“问责缺口”。罗宾逊说,根据该法律,大型在线平台和数据中介不仅被视为信息的主机,而且被视为对用户数据如何收集、存储和处理负有积极法律责任的实体。
她说,美国的隐私法支离破碎且相对薄弱。美国缺乏任何可比拟的宪法赋予的隐私权。此外,罗宾逊说,美国的隐私保护是通过法院对第四修正案(https://constitution.congress.gov/constitution/amendment-4/)、第五修正案(https://constitutioncenter.org/the-constitution/amendments/amendment-v/clauses/633)和第十四修正案(https://constitutioncenter.org/the-constitution/articles/amendment-xiv/clauses/701)的正当程序条款的解释“拼凑”起来的。
“这有点像法官制定的学说,”罗宾逊说。“但欧盟将隐私权直接写入了其宪法结构,从而使其能够通过GDPR在法律上实施这些保护。”
专家表示,随着AI系统持续无休止地生成内容——从歌曲、小说到可专利的发明——关于作者身份、所有权和法律责任的长期假设开始出现裂痕。
伦敦的法律与犯罪学副教授厄休拉·斯马特(https://www.nulondon.ac.uk/people/ursula-smartt/)表示,法院和立法者正越来越多地面对一个基础性法律问题:在大多数现有美国、英国和欧洲法律框架下,只有人类才有资格成为享有专利和版权保护的发明人或作者。
斯马特说:“AI生成的版权作品,如剧本、歌曲和书籍,不能拥有自己的版权。”她还补充说,全球专利法规定“发明人必须是人类”。“换句话说,他们必须具有感知能力。”
相似文章
法院如何应对AI生成诉讼的激增
一项针对450万联邦民事案件的新研究发现,AI正推动自辩诉讼激增,AI检测到的文本比例从2023年的1%上升至2026年的18%。虽然AI帮助诉讼当事人更清晰地表达论点,但也引入了虚假引用,并引发关于聊天机器人因提供不良法律建议而需承担责任的合法性问题。
承担责任的下一个十亿美元产业
本文探讨了AI系统缺乏法律责任如何催生了一个新兴市场,涉及人类问责、保险和赔偿责任服务,并以加拿大航空聊天机器人裁定案作为关键例证。
与AI共行动:基于交互的代理侵权责任框架
本文提出了一种基于交互的框架,用于在代理型AI系统造成损害时分配侵权责任。该框架借鉴了布拉特曼的规划理论和普通法中的共同行动原则,将人机交互类型映射到现有的侵权责任规则上。
引用Kyle Kingsbury
Kyle Kingsbury讨论了机器学习系统中人类问责的新兴角色,包括内容审核员、法律代表和合规官员,这些人可能对AI系统的故障承担责任。
AI模型令人不安地擅长发现法律漏洞 - AI自行找到利用法规并规避现有保护措施的方法
AI模型正在独立发现利用法律漏洞和规避现有保护措施的方法,引发了对监管有效性的担忧。