hindsight-distillation

标签

Cards List
#hindsight-distillation

学习用户表征以提升模拟保真度

arXiv cs.CL ↗ · 2026-10-19 缓存

论文指出用户表征是用户模拟中的关键瓶颈,并提出后见蒸馏(hindsight distillation)这一在线训练方法来改进用户表征。由此得到的 UserRepGen-4B 模型所生成的表征,在七个数据集上的模拟保真度均优于 GPT-5.5 所产生的表征。

0 人收藏 0 人点赞
#hindsight-distillation

蒸馏至分歧:面向智能体强化学习的错误截断式事后蒸馏

arXiv cs.AI ↗ · 2026-10-19 缓存

提出 ETRO(Error-Truncated Hindsight Distillation),根据轨迹结果与错误边界路由正/负两类 hindsight 技能以实现细粒度 credit 分配,并让 post-error 后缀仅由 GRPO 优化,从而避免技能条件化监督与当前状态不匹配的问题。

0 人收藏 0 人点赞
#hindsight-distillation

失败乃成功之母:通过回溯性定位恢复监督信号

arXiv cs.AI ↗ · 2026-10-16 缓存

提出 Replay-Selected Hindsight Distillation(RSHD,重放筛选的后见蒸馏)方法,让模型从完全失败的推理组中恢复监督信号:策略对失败尝试撰写纠错笔记并重新求解,仅当重放探索成功时才将该笔记蒸馏回普通提示策略中,在多个模型族和数学/代码训练域上一致优于 GRPO。

0 人收藏 0 人点赞
#hindsight-distillation

microsoft/UserRepGen-4B

Reddit r/LocalLLaMA ↗ · 2026-10-14

微软发布 UserRepGen-4B,一个基于 Qwen3.5-4B 微调的模型,可从多轮对话生成结构化的自然语言用户表示(任务描述与行为描述),用于条件化 LLM 用户模拟器,与生成用户话语的 UserLM 系列不同。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈