outlier-features

标签

#outlier-features

测量开放大语言模型中的最大激活值

arXiv cs.CL ↗ · 2026-05-18 缓存

本文测量了来自8个开放LLM家族的27个检查点的最大激活幅度，发现不同家族、架构和训练阶段之间存在显著差异，这对低位量化和部署具有影响。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈