标签
本文提出了认证的基于锚点的适应（Certified Anchor-Based Adaptation，CABA），这是一种更新后门控框架，利用预留的锚点观测数据来认证拟议的模型更新对受保护行为的改变是否处于预先声明的预算范围内。该框架提供了具有理论支撑的散度保证，并通过在 UCI HAR 数据集上的概念验证表明，它能够减少遗忘，但代价是在保留能力与可塑性之间作出权衡。
该论文从蒸馏目标本身推导词元重要性（基于局部 KL 预算下的损失可降低幅度，即由逻辑值梯度与费舍尔矩阵构成的效用分数），并将其具体实现为费舍尔效用加权（FUW），在七个数学推理基准和三组 Qwen3 师生模型上，相较于均匀 OPD，宏平均得分提升了 1.08–4.0 个百分点。
研究发现 on-policy 蒸馏（reverse KL）主要提升语言模型的组合推理能力，而几乎不传递新的事实知识；改用 forward KL 可恢复事实传递。该论文通过受控合成框架解耦蒸馏配方，揭示了技能与知识转移之间的不对称性。
提出 KL 正则化策略优化（KLPO）框架，通过将 KL 正则项锚定在采样器处，实现无 critic、无重要性权重的异步 RL 更新：每个 prompt 仅需一次 rollout，并证明 SPPO、GPO、REBEL 和 BPO 均为 KLPO 的特例。
论文提出了 LLM-as-Jev，一种保留原有架构的框架，可从 LLM 的下一词元概率中提取经过校准的决策分布，并表明现代 LLM 本身就是有效的 Jev 式决策模型：微调在较弱模型和特定任务上能带来针对性的提升，而 KL 锚定则可防止对话生成性能退化。
这篇 UCLA 论文从理论上分析了同策略蒸馏（OPD）与离策略/SFT 式蒸馏的区别，展示了前向 KL 与反向 KL 目标如何分别将多个教师模型聚合为算术混合与几何混合，建立了对数级遗憾界，并解释了 OPD 的优势与脆弱性（例如对低概率教师的敏感性以及错误前缀偏差）。
本文分析了在线自蒸馏（OPSD）中对前向 KL 目标进行逐点裁剪为何会适得其反：论文通过理论证明与实证实验表明，被裁剪的目标可能会将 token 概率推离教师模型，从而导致推理输出中出现持续的 token 重复现象。
本文系统研究了 rollout 策略在强到弱蒸馏中的作用，发现 token 级 KL 方向和学习率比 on-policy 数据更为重要，挑战了 on-policy rollout 本身更具优势的假设。
本文研究KL散度在大型语言模型在策略蒸馏中的必要性，表明仅保留更新方向即可，并提出共识多教师在策略蒸馏（C-MOPD）以增强多教师学习。
IncentRL 提出一个框架，用于强化学习中基于偏好的奖励塑形，该框架使用KL散度惩罚来平衡偏好引导与任务性能，并通过理论分析和在MiniGrid基准上的实验得到支持。
ByteShape发布了针对Qwen 3.8 27B的ShapeLearn GGUF模型，在基准测试中实现了高精度，并讨论了KLD在量化中的作用，相关论文已被EMNLP 2026接受。
本文提出了一种基于智能体间信念分布KL散度的多智能体强化学习通信门控机制，在捕食者-猎物和MPE等基准测试中展示了性能提升和可解释性。
This paper introduces Fisher8, an output-layer gradient correction that uses Fisher geometry instead of Euclidean geometry to stabilize neural heteroscedastic regression, improving uncertainty calibration and likelihood-error tradeoffs.
一项详细基准测试，比较了 Qwen3.6 27B 在 GGUF、NVFP4、AWQ、AutoRound 和 FP8 格式下的 16 种量化，测量与未量化参考的 KL 散度。纯权重的 GGUF 量化通常在质量-大小权衡上表现最佳，而 vLLM 量化则差异显著。
KLQ is a training-free LLM quantization method that allocates bits per direction based on measured KL divergence, outperforming existing training-free rotation-based methods on W4A4KV4-bit settings for models like Llama 3.2 1B and Qwen 2.5.
atomic.chat 发布了 DeepSeek V4 Flash 0731 的 14 个量化 GGUF 构建版本，从无损 BF16 到 1 位。他们推荐在 128GB 硬件上使用 AD-IQ2_M，该版本在 83.6% 的情况下与原始模型的 token 选择一致。
一位开发者构建了一个测试框架，在量化过程中测量每个权重组的 KL 散度，从而生成了 Qwen3.6-27B 的三个定制量化版本（Bedrock、Tightrope、Gambit），实现了优化的压缩。工具调用被确定为量化下最早退化的能力。
本文建立了神经网络得分函数近似与基于得分的扩散模型中分布近似之间的严格定量联系，证明了准确的得分近似可以导致KL散度下紧密的分布近似，并给出了显式界。
这条推文列出了机器学习工程师每天使用的7个基础数学概念，并简要强调了这些概念背后的推导过程，例如为什么梯度下降沿着最陡方向移动，以及为什么softmax加交叉熵会产生一个干净的梯度。