post-training

标签

Cards List
#post-training

使用用户的语言变体作答:用于后训练的校准式语言顺应配对

Hugging Face Daily Papers ↗ · 2026-10-20 缓存

本文介绍了校准式语言顺应对(CAP),这是一种偏好数据集,旨在奖励聊天模型在保留标准英语的同时匹配用户方言,并考察了在 10 个开放模型谱系中,SFT、DPO 和 RL 阶段如何改变模型顺应非正式方言线索的倾向。

0 人收藏 0 人点赞
#post-training

@LangChain: ICYMI: @hwchase17 joined @twentyminutevc with @HarryStebbings to discuss how better models change what you build, where…

X AI KOLs Timeline ↗ · 2026-10-19 缓存

LangChain 创始人 Harrison Chase 在《Twenty Minute VC》播客中谈到,模型越强,驾驭层越需要重构,真正的护城河在于领域专家能写出的验证器与可控的上下文工程,并给出构建垂直智能体的实践建议。

0 人收藏 0 人点赞
#post-training

@togethercompute: https://x.com/togethercompute/status/2112229246802301248

X AI KOLs Timeline ↗ · 2026-10-19 缓存

Together AI 推出 Together Post-Training 服务,让开发者在其平台上通过 RL 与 SFT 定制化训练专属模型,同时由平台负责底层系统与基础设施的协同优化。该服务提供灵活的训练循环定义、独占 GPU 资源(Model Resources)以及 LoRA 与全参数训练支持。

0 人收藏 0 人点赞
#post-training

研究构思的起点:面向可操作局限性生成的前向引用监督

arXiv cs.AI ↗ · 2026-10-19 缓存

该论文提出 ActLim-Bench,利用前向引用构建可操作的论文局限性生成监督数据,并设计三阶段后训练流程(SFT、验证器过滤拒绝采样、在线稠密奖励 RL),在前沿模型上取得最佳召回率并提升下游自动研究构思系统。

0 人收藏 0 人点赞
#post-training

混合推理Agent:在潜空间中思考、通过文本行动的LLM Agent

Hacker News Top ↗ · 2026-10-18 缓存

本文提出了一种LLM Agent架构HybridAgents,它通过轻量级的HybridLink在潜空间推理与文本驱动的行动之间动态切换,并结合HybridSFT与HybridRL后训练,在11个基准测试上实现了10.4%的性能提升,同时显著降低了token消耗、延迟和成本。

0 人收藏 0 人点赞
#post-training

@snwiki238337: 几乎所有人在设计多智能体系统(Multi-Agent)时,都会下意识地掉进同一个思维,必须选出一个中央 agent,或者预先写死一条固定的执行流水线。 在传统认知里,没有领导的团队就是一盘散沙。但只要你在生产环境里跑过多智能体系统,就会发…

X AI KOLs Timeline ↗ · 2026-10-17 缓存

哈佛与MIT团队提出MPT(Market-Based Post-Training),在去中心化的多智能体蜂群中通过竞价机制联合学习动作策略与自我编排,无需中央协调器,实验在具身创造、机器人导航与深度研究任务上验证了其在规模扩展、抗节点宕机与任务迁移上的显著优势。

0 人收藏 0 人点赞
#post-training

[研究] 扩散式 LLM 在单张 RTX 5090 上实现每秒 2,788 个 token — ORL 正式亮相(完全开源)

Reddit r/LocalLLaMA ↗ · 2026-10-16

研究人员提出 ORL(On-Policy Residual Learning)与自研推理引擎 dlmrt,使扩散语言模型在单张 RTX 5090 上达到 2,788 tokens/s,8×B200 上达 7,708 tokens/s,端到端吞吐提升最高 6.9 倍且质量不降,模型、训练代码与推理引擎全部开源。

0 人收藏 0 人点赞
#post-training

@alacheng: 最近海外AI小模型,疯狂的在垂直领域后训练glm-5.3-flash 针对 glm-5.3-flash 的后训练版本,在多个垂直领域实现了SOTA!感觉尤其产品化的垂直模型最近都愿意使用glm-5.3-flash。 近几周内第四个针对某个…

X AI KOLs Timeline ↗ · 2026-10-16 缓存

最近几周海外团队频繁基于 GLM-5.3-Flash 在垂直领域做后训练并达到 SOTA,包括法律领域的 glm-legal、知识工作的 Ultramarine、网络安全的 apex-flash-1,以及 Datadog 用于生产事故排查的 SRE 模型 Scout 1.0。

0 人收藏 0 人点赞
#post-training

@alacheng:海外前沿小型 AI 实验室 Paper Instruments,团队规模很小,主要专注于……的后训练

X AI KOLs Timeline ↗ · 2026-10-16 缓存

文章介绍了海外小型AI实验室Paper Instruments(YC S25批次,融资约400万美元),其专注于大模型后训练与非可验证领域的智能体强化学习,发布了基于GLM-5.3 Flash后训练的Ultramarine 1 Flash模型,宣称在知识工作任务上接近Claude Fable 5的性能,但成本仅约为其六十分之一,后训练总成本约30万美元,采用开源加推理API的商业模式。

0 人收藏 0 人点赞
#post-training

面向长时程智能体强化学习的树感知后验蒸馏

Hugging Face Daily Papers ↗ · 2026-10-16 缓存

TreeOPSD 提出了一种无批评者的树感知后验自蒸馏框架,用于长时程智能体强化学习。该方法将终局奖励递归回传为隐式回合级信用,并生成有界的封闭式教师分布,在多个竞争性基准上显著优于 GRPO。

0 人收藏 0 人点赞
#post-training

轮次越多,问题越多(6 分钟阅读)

TLDR AI ↗ · 2026-10-16 缓存

博客文章探讨了在 agentic 场景下进行强化学习后训练的复杂性:长时间 rollout 导致的 off-policy 问题、harness 与沙箱不一致带来的偏差,以及 Alibaba QwenGyre 和 DeepSeek 等团队如何通过代理路由、状态冻结等工程手段应对这些挑战。

0 人收藏 0 人点赞
#post-training

梯度就是协方差(8分钟阅读)

TLDR AI ↗ · 2026-10-16 缓存

这是一篇三部分系列文章的第一篇,论证了 on-policy RL、蒸馏(distillation)以及近策略 SFT 更新是稀疏的:由于在采样器分布下 score 的期望为零,期望梯度是一个协方差,而 Fisher 信息矩阵是一个方差,这就对任何 reward 下的更新幅度给出了上界。

0 人收藏 0 人点赞
#post-training

@AfterQuery 刚刚让一个开源模型在金融领域的成本-精度前沿实现了突破。我们对 @NVIDIAAI Nemotron 3.5 进行了后训练……

X AI KOLs Timeline ↗ · 2026-10-15 缓存

AfterQuery 宣布对 NVIDIA Nemotron 3.5 Super VL 进行金融信用任务后训练,与 Hebbia 合作将 Perfect solved 指标从 47% 提升至 74%,超过 Sol 6 并接近 Astra 6,成本约为其 1/7。

0 人收藏 0 人点赞
#post-training

面向扩散语言模型的结果路由蒸馏与强化学习

arXiv cs.LG ↗ · 2026-10-15 缓存

一篇论文提出了一种面向扩散语言模型的无似然后训练流程,将按结果路由的蒸馏与无需概率比、以组为中心的 REINFORCE 及 KL 锚定相结合,相较于仅在 18.6% 的提示上成功的教师模型,在工具调用方面取得了显著提升。

0 人收藏 0 人点赞
#post-training

揭开同策略蒸馏的神秘面纱:教师的优势究竟在哪里?

arXiv cs.LG ↗ · 2026-10-15 缓存

这篇论文从知识蒸馏视角重新审视同策略蒸馏(OPD),通过受控的词元翻转实验测量教师在学生生成轨迹上的优势来源,发现基于概率质量和KL散度的选择性干预比随机翻转高出15—18个百分点,主张在保持分布稳定性的同时学习更有价值的教师纠正。

0 人收藏 0 人点赞
#post-training

通过连续流语言模型反向传播验证器奖励

arXiv cs.LG ↗ · 2026-10-15 缓存

论文提出 CFRL,一个针对连续流语言模型(如 ELF)的强化学习后训练框架,通过引入 critic 估计中间 token 嵌入的价值,实现可反传的路径梯度,绕过不可微的解码步骤,在四个推理任务上稳定提升模型性能并优于同类基线方法。

0 人收藏 0 人点赞
#post-training

去中心化智能体群中的自组织能力学习

Hugging Face Daily Papers ↗ · 2026-10-15 缓存

论文提出 Market-Based Post-Training (MPT) 框架,通过竞价机制在去中心化智能体群中联合学习动作策略与自组织能力,在具身制作、机器人导航和深度研究任务上验证了更好的协调性、可扩展性与鲁棒性。

0 人收藏 0 人点赞
#post-training

MLExpert:迈向面向自主机器学习工程的通用智能体模型

Hugging Face Daily Papers ↗ · 2026-10-15 缓存

提出了 MLExpert,一个 35B 混合专家(MoE)智能体模型,通过分层监督微调和窗口化交互强化学习(WIRL)自主优化长周期机器学习工程工作流,在 MLE-Bench Lite 上将基模型奖牌率从 37.9% 提升至 72.7%,媲美更大的前沿模型。

0 人收藏 0 人点赞
#post-training

Athanor:面向自主后训练研究的智能体原生系统

Hugging Face Daily Papers ↗ · 2026-10-15 缓存

Athanor是一个开放的智能体原生系统,使四个Claude Opus 5.5智能体在104小时内自主将Qwen3-4B-Base后训练为跨领域通才模型,在开发集和留出集上均达到甚至超越官方指令微调版本,展示了前沿智能体自主进行AI研究的能力。

0 人收藏 0 人点赞
#post-training

模型在强化学习中究竟学会了哪些行为?[P]

Reddit r/MachineLearning ↗ · 2026-10-14

研究者开发了一套无监督工具,利用稀疏自编码器(SAE)特征对比训练前后的生成轨迹,以发现模型在强化学习(RL)后训练中实际学到的行为;将其应用于 MiMo-v2.6 强化学习环境的轨迹后,检测到明显的评估意识及轻度的环境利用现象。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈