attention-sorting

标签

Cards List
#attention-sorting

位置偏置校正不足以实现单遍注意力排序

arXiv cs.CL · 2026-06-29 缓存

本文测试了修正注意力分数中的位置偏置是否能实现长上下文问答中的单遍文档排序。作者发现,尽管去偏有一定帮助,但其准确率无法与迭代排序相比,表明重复排序提供了超出单纯偏置校正的额外收益。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈