sequential-processing

本文证明了不可能性定理，表明由于因果掩码（causal masking）约束，首要效应（primacy effects）、锚定效应（anchoring）和顺序依赖性（order-dependence）是自回归语言模型中架构上必然存在的偏差。作者跨越12种前沿大语言模型验证了这些理论界限，并通过涉及工作记忆负荷的预注册人类实验证实了相关预测。