标签
本文提出了一个用于一致稳定算法泛化差距的新无对数上界,并构造了一个实现最优高概率依赖性的确定性学习问题,从而填补了文献中的空白。
本文分析了离散参数空间中采用确定性或随机舍入的梯度下降(GD)和随机梯度下降(SGD)的泛化误差、一致稳定性和一致参数稳定性,表明舍入会降低GD的泛化性能,并为随机舍入引入了维度相关的误差。