unembedding

#unembedding

无知的几何学：大型语言模型知道何时调整贝叶斯先验

arXiv cs.LG ↗ · 2026-09-04 缓存

本文介绍了大型语言模型非嵌入几何中的“无知方向”，它编码了训练语料库的单字分布，并充当贝叶斯先验。该研究展示了如何根据上下文的信息量调整这一先验，从而提供了对模型行为的见解。

0 人收藏 0 人点赞