preference-dynamics

本文介绍了建构性对齐，这是一种重新定义AI对齐的范式，将其视为调控人类偏好随时间的演变，而非满足静态偏好。它提出了一个控制理论框架，用于规范AI系统如何影响价值轨迹。