标签
介绍Rushes，一个大规模数据集，记录了人类在AI生成的分支叙事中的参与偏好。结果表明，当前如GPT-5等大语言模型在预测用户选择方面甚至无法超越简单基线，凸显了个性化对齐的必要性。
一项新研究在28项真实世界研究中测试了LLM，发现它们仅在53%的情况下与人类多数一致，与随机猜测无异，挑战了用LLM取代人类反馈的趋势。
这篇立场论文主张，大型语言模型应从个性化而非聚合的人类偏好中学习，指出社会选择理论中的理论局限性以及人口多样性带来的实际问题。它提出了有边界的个性化框架，在尊重个体自主性的同时维护普遍的安全约束。
SenseJudge是一个以人为中心的框架，用于可定制的LLM评判，能够适应多样的用户偏好，优于现有方法。它还引入了SenseBench，一个从真实世界多轮交互中衍生的基准测试。
Brian Christian 宣布他在 CHAI Berkeley 的正式全职研究员职位，这是在近十年的隶属关系之后，基于他关于AI如何表征人类偏好的博士工作。
本文介绍了3DCodeBench——一个用于评估视觉语言模型通过代码进行过程化3D建模的基准测试，以及3DCodeArena——一个基于成对人类偏好的排名平台。
HP-Edit 提出一种后训练框架，通过 RLHF 将基于扩散的图像编辑模型与人类偏好对齐，依托全新 5 万张真实场景数据集及自动 VLM 评估器。