标签
本文提出了Mass-Aware Attention(MAA),这是标准注意力归一化的一种泛化,通过在重复情况下以不同速率缩放分子和分母来保留证据积累信息,从而提高了表示的信息量,并在时序图及其他领域提升了任务性能。