relative-positional-encoding

#relative-positional-encoding

通过相对位置编码对距离进行编码以增强基于Transformer的路由

arXiv cs.AI ↗ · 2026-07-22 缓存

本文探讨了在Transformer架构中使用相对位置编码（RPE）作为加性偏置来解决团队定向问题，与原始Transformer架构相比，在收集奖励和最优性差距方面展示了一致的改进。

0 人收藏 0 人点赞