flatness

标签

#flatness

基于平坦度的理论最优量化

arXiv cs.LG ↗ · 2026-05-20 缓存

介绍了平坦度度量与双向对角量化（BDQ）用于大型语言模型的训练后量化，实现了接近无损的4比特权重和激活量化，并在极低比特设置下取得了显著改进。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈