model-internals

标签

Cards List
#model-internals

预测方向向量的有效性

arXiv cs.CL · 2026-04-20 缓存

本论文介绍了线性可访问性配置文件(LAP),一种使用logit lens的诊断方法,用于预测方向向量在模型各层的有效性,在5个模型的24个概念族上实现了ρ=+0.86到+0.91的相关性。该工作提供了一个系统框架来确定哪些层和概念适合用于方向干预,替代了临时性的试错方法。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈