标签
该论文提出ΣΔ-Sampler优化器，将二值和三值神经网络训练损失映射为高阶Ising模型能量，并通过噪声整形与退火实现高效的边缘设备训练，在CIFAR-10、ImageNet-1k和MatMul-free语言模型上验证了接近全精度的精度，同时将训练内存减少超过50%、速度提升一个数量级。
Bit-Mass理论提出，决定模型准确率的是权重位的总数，而非计算格式。在MNIST上的实验表明，相同的Bit-Mass下，二进制网络与浮点网络性能相当。