gated-rotary-attention

标签

Cards List
#gated-rotary-attention

GRATE:通过门控旋转注意力实现归纳知识图谱基础模型的时间扩展

arXiv cs.AI · 4天前 缓存

本文提出 GRATE(用于时间编码的门控旋转注意力),一种无参数的时间编码方法,通过结合相对时间差和查询条件门控来增强归纳知识图谱基础模型。同时引入了新的归纳时间知识图谱基准(GDELTIndT 和 WIKIIndT)以评估跨数据集迁移,展示了相比静态基础模型的性能提升。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈