对齐即法理学

arXiv cs.AI 论文

摘要

一篇题为《对齐即法理学》的学术论文探讨了人工智能对齐与法律框架之间的交叉领域,很可能在司法推理与人工智能安全之间建立了平行关系。

arXiv:2605.08416v1 公告类型:新论文 摘要:法理学,即研究法官应如何正确裁决案件的学科,与对齐,即研究如何让 AI 模型符合人类价值观的科学,二者共享一种基本结构。这两个看似遥远的领域都试图预测并塑造强大的决策主体——在一方是法官,在另一方则是日益强大的人工智能——在未知的未来中将如何做出决策。并且,它们使用相似的语言规范与解释工具来尝试实现这些目标。法理学中的重大辩论,关于法律是什么以及法律应当是什么,可以为对齐领域提供洞见,而从对齐领域中有效与无效的做法中汲取的经验教训,也有助于推动法理学的发展。 本文直接让这两个领域展开对话。借鉴法理学的主要理论,特别是德沃金(Dworkin)的原则导向解释主义和桑斯坦(Sunstein)将法律视为类比推理的法律实证主义观点,并结合前沿的对齐方法,即宪法 AI(Constitutional AI)和案例推理,本文阐明了在对齐微调中采用更精细的受法律启发的方法,以处理规则与案例之间相互作用的價值,并指出人工智能如何能提供更好的理解,即法律如何运作以及如何通过引入人工智能来改善法律。AI 系统应与法律协同运作,以赋予人们在现实中采取行动的能力,帮助扩展他们的能力以及实现目标的程度。随着 AI 能力的持续提升,以及法律理论对法官施加的约束似乎正逐渐失效,这两个领域之间的对话将变得日益重要,并可能有助于指引出一个更好的版本——既适用于法理学,也适用于对齐领域。
查看原文
查看缓存全文

缓存时间: 2026/05/12 07:14

# Alignment as Jurisprudence
Source: https://arxiv.org/abs/2605.08416
Bibliographic Tools

## Bibliographic and Citation Tools

Bibliographic Explorer Toggle

Code, Data, Media

## Code, Data and Media Associated with this Article

Demos

## Demos

Related Papers

## Recommenders and Search Tools

About arXivLabs

## arXivLabs: experimental projects with community collaborators

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website\.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy\. arXiv is committed to these values and only works with partners that adhere to them\.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs (https://info.arxiv.org/labs/index.html)\.

相似文章

对齐(Alignment)

Anthropic Research

本文概述了Anthropic对齐团队的使命与研究重点,该团队通过评估、监督和压力测试等手段开发保障措施,以确保未来的AI系统始终保持有益、诚实和无害。

谁来对齐对齐者?

Hacker News Top

本文分析了AI安全提案的法律含义,重点关注Dario Amodei对监管的呼吁,并与Eliezer Yudkowsky的极端警告形成对比,探讨了国家权力在AI治理中的作用。