independent-component-analysis

ICA Lens 重新引入独立成分分析作为解读语言模型表示的高效方法，提供了一种比稀疏自编码器训练更快的替代方案，同时保持有竞争力的性能。

本文表明，通过最近邻重叠和ICA差异测量的嵌入空间结构保留，与多个任务上的基准性能强相关，为模型有效性提供了预测指标。