vocabulary-alignment

本文介绍了词汇对齐稀疏自编码器（VASAE），该方法在词汇对齐锚定下训练SAE特征，基于最近令牌嵌入为每个特征分配内在令牌名称，在早期层实现高对齐而不降低重建质量。