标签
本文引入了角色感知神经凸散度头,在评估输入凸神经Bregman散度之前应用源角色和目标角色投影,从而为词汇蕴含、句子蕴含和本体层级等任务实现结构化和可解释的非对称距离学习。实验表明,在语义和本体基准上,角色感知投影相较于普通ICNN-Bregman头在方向准确性上持续提升。
提出了一种用于训练输入凸神经网络(ICNN)的“提升”方法,该方法使用无约束的超网络生成非负的层间权重,从而软化损失景观并避免梯度衰减,相比投影梯度下降和softplus重参数化,实现了更低的测试损失。