residual-dominance

#residual-dominance

残差主导作为因果自注意力推荐器中最后一项依赖的结构解释

arXiv cs.AI ↗ · 2026-08-17 缓存

本文提出残差主导作为因果自注意力基于序列推荐器中最后一项依赖的结构解释，利用预测时诊断和基于范数的分析，将这种行为与Transformer模型中的残差加法联系起来。

0 人收藏 0 人点赞