标签
本文研究了词元的语法角色如何影响Transformer表示的几何结构在各层中的变化,发现编码器和解码器模型中存在不同的演化模式。
本文研究了词汇多样性如何影响语言模型表征中的内在维度估计,揭示了两种机制之间的尺度依赖性过渡,并推导出了反转点的公式。
本文提出了一种二元少样本分类的光谱相图,通过分析内在维度和几何饱和进行表征诊断。