你的仓库就是一个偏好数据集:从合并历史中提取品味

Reddit r/LocalLLaMA 论文

摘要

介绍了隐式偏好蒸馏(Implicit Preference Distillation),一种从版本控制合并历史中提取偏好信号的方法,以低成本将AI代理与机构实践对齐。

你花在思考‘我们能构建这个吗?’上的时间越来越少,而更多地是在问‘在所有可能性中,我们应该构建哪一个?’现在,品味成为了执行的瓶颈。从专家那里获取偏好成本高昂,但如果你能一直从你维护的版本化工件中提取它们呢?在一个温和的结构性假设下,即你的团队接受的修订轨迹在期望方向上逐步改进,你可以将偏好蒸馏到你的代理中。隐式偏好蒸馏(Implicit Preference Distillation)有助于以低成本将你的AI与机构实践对齐。我们正在实验从仓库合并历史中提取偏好信号,但同样的策略适用于任何你迭代改进工件以达到质量标准的地方。
查看原文

相似文章