KL散度:用还是不用?量化分析师的两难之选
摘要
讨论了在量化分析中使用KL散度的权衡,将其描述为量化分析师面临的哈姆雷特式两难困境。
暂无内容
相似文章
KL Zero: KL散度直觉游戏
KL Zero是一款交互式浏览器游戏,玩家在其中绘制概率分布以匹配目标KL散度值,帮助用户直观理解机器学习中KL散度的概念。
ByteShape Qwen 3.8 27B:是否进行KL散度量化,第二部分:指标狂想曲
ByteShape发布了针对Qwen 3.8 27B的ShapeLearn GGUF模型,在基准测试中实现了高精度,并讨论了KLD在量化中的作用,相关论文已被EMNLP 2026接受。
一个好的预测器能有多错?预测KL散度消失下的发散更新
本文证明,在平稳对称高斯HMM中,更新映射之间的无界间隙可以与预测KL散度消失共存,表明内部计算不匹配不一定意味着预测失败。
受 TurboQuant 启发的 KV 缓存量化方案的统计推断与质量评估
本文分析了受 TurboQuant 启发的 KV 缓存量化方案,利用统计推断和新的 6D 误差框架来评估 KL 散度、几何误差等质量指标。
并非所有发散都应被抑制:同策略蒸馏中的反事实可恢复性
提出将反事实可恢复性作为在线策略蒸馏中基于结果的决策变量,表明基于可恢复性进行选择性监督的方法在 AIME 和 GPQA 基准测试上优于仅依赖散度的方法。