backpropagation-alternative

Sakana AI 推出了 PC-ALM，这是一种 backpropagation 的本地学习替代方案，能够仅使用局部动态训练 1000 层神经网络。

介绍了Score Broadcast and Decorrelation (SBD)，一种原则性的基于广播的信用分配框架，该框架可推广到包括交叉熵、Bregman散度和适当评分规则在内的可微损失族。该工作为三因子学习规则提供了理论基础，并在CIFAR-10和Tiny ImageNet上展示了相较于现有广播方法的性能提升。