KL散度:用还是不用?量化分析师的两难之选
摘要
讨论了在量化分析中使用KL散度的权衡,将其描述为量化分析师面临的哈姆雷特式两难困境。
暂无内容
相似文章
KL Zero: KL散度直觉游戏
KL Zero是一款交互式浏览器游戏,玩家在其中绘制概率分布以匹配目标KL散度值,帮助用户直观理解机器学习中KL散度的概念。
受 TurboQuant 启发的 KV 缓存量化方案的统计推断与质量评估
本文分析了受 TurboQuant 启发的 KV 缓存量化方案,利用统计推断和新的 6D 误差框架来评估 KL 散度、几何误差等质量指标。
训练-推理内核合约:约束后训练与部署中的差异
本文形式化了现代AI后训练流程中训练内核与推理内核之间的数值差异,提出了一种内核合约规范以及一系列Lipschitz风格的界限,以减轻离策略偏差、切片级回归和可重复性问题。
@neural_avb: 这篇文章实际上解释了On Policy Distillation损失函数的所有组成部分(前向与反向KL),等等…
本文解释了On Policy Distillation损失函数的组成部分,包括前向与反向KL散度、监督粒度、特权类型以及特权优势估计。还提供了来自Thinking Machines、Hugging Face等的其他资源。
我绘制了Qwen3.6-35B-A3B和Gemma4-E2B QAT模型的KV缓存量化的KL散度图
作者绘制了Qwen3.6-35B-A3B和Gemma4-E2B QAT模型的KV缓存量化的KL散度图。