标签
本文利用希腊语数据，研究Transformer后期层如何处理句法信息，通过跨层泛化性分析揭示了表征向规范语序的转变。
本文研究了词元的语法角色如何影响Transformer表示的几何结构在各层中的变化，发现编码器和解码器模型中存在不同的演化模式。
本文研究了词汇多样性如何影响语言模型表征中的内在维度估计，揭示了两种机制之间的尺度依赖性过渡，并推导出了反转点的公式。