llm-representation

Tag

Cards List
#llm-representation

TaxoSAE: Rethinking Sparse Autoencoders through Taxonomic Logic

arXiv cs.CL ↗ · 4d ago

TaxoSAE 提出将分类学(is-a 层级)结构显式编码进稀疏自编码器特征空间,通过分层 SAE 与分类对齐损失,在事实问答中显著提升了概念读出精度、编辑控制粒度,以及对未见概念的超类读出能力。

0 favorites 0 likes
← Back to home

Submit Feedback