标签
SPICE 引入了一个可泛化的框架,用于分析神经网络中的多义性,能够在卷积神经网络和Transformer之间进行系统性比较,并自动确定每个神经元的概念聚类。
本文对神经网络中的叠加现象进行了数学分析,推导了具有幂激活函数的简单自编码器的L2重建损失的上下界,验证了Elhage等人的实证结果。