arithmetic-co-design

#arithmetic-co-design

CurveFP：用于语言模型的具有闭合乘积的有理基数对数数据类型

arXiv cs.LG ↗ · 2026-08-12 缓存

提出了 CurveFP，一种闭合乘积码本族，将量化幅度分布在交叉对数曲线上，实现精确的符号异或和整数索引更新。它以七位推理达到 FP8 类行为，并在 7B-9B 模型上改善了困惑度。

0 人收藏 0 人点赞