attention-audit

本文介绍了一种审计注意力、状态空间和混合序列模型中前缀不变性的方法，表明注意力掩码无法确保因果性，在多个模型检查点中检测到192个故障。