你的仓库就是一个偏好数据集:从合并历史中提取品味
摘要
介绍了隐式偏好蒸馏(Implicit Preference Distillation),一种从版本控制合并历史中提取偏好信号的方法,以低成本将AI代理与机构实践对齐。
你花在思考‘我们能构建这个吗?’上的时间越来越少,而更多地是在问‘在所有可能性中,我们应该构建哪一个?’现在,品味成为了执行的瓶颈。从专家那里获取偏好成本高昂,但如果你能一直从你维护的版本化工件中提取它们呢?在一个温和的结构性假设下,即你的团队接受的修订轨迹在期望方向上逐步改进,你可以将偏好蒸馏到你的代理中。隐式偏好蒸馏(Implicit Preference Distillation)有助于以低成本将你的AI与机构实践对齐。我们正在实验从仓库合并历史中提取偏好信号,但同样的策略适用于任何你迭代改进工件以达到质量标准的地方。
相似文章
Repo-to-Skill:将GitHub仓库蒸馏成AI4AI技能
DisCo是一个研究代理,能从GitHub仓库中蒸馏操作知识到可复用技能,显著提升自主机器学习研究在诸如MLE-bench等基准测试上的性能。
@DivyanshT91162: 我认为GitHub仓库正在悄然取代一半的SaaS行业。这个仓库能将提示词转化为实时数据集。输入:"…
推广一个GitHub仓库,用户可以用自然语言描述数据集,由AI智能体研究网络,构建结构化表格,可导出为CSV,并支持自动刷新。
GitOfThoughts:可版本控制的推理与可回放、比较和合并的智能体记忆
GitOfThoughts将智能体的推理树存储为git仓库,支持回放、比较和合并。该论文测试了多种记忆载体,发现记忆除了对近似重复问题外,并不能提升新问题的准确性。
@daksh_jaitly: 我构建了 mex,因为编码智能体总是在重复读取同一个代码库,而不是保留它们学到的知识。1,200 个 GitHub 星标…
作者构建了 mex,一个帮助编码智能体保留仓库知识而不用重复阅读的工具,v0.7.0 增加了本地代码图,将上下文使用量减少了 90.7%,同时保持了召回率。
我为AI代理打造了一个小型本地图书管理员,源于观察它们在仓库搜索中如浣熊闯入厨房般的行为
作者构建了一个名为 baoer_signal_grep 的本地搜索插件,帮助AI代理更高效地导航和搜索仓库,减少时间浪费并提升多步调查的效率。