additive-noise

标签

Cards List
#additive-noise

带梯度裁剪和加性噪声的随机梯度方法的几乎必然收敛分析

arXiv cs.LG · 9小时前 缓存

本文证明了在平滑性和有界梯度噪声假设下,带裁剪和加性噪声的随机梯度下降(包括动量变体)几乎必然收敛,为凸和非凸环境中的稳定训练提供了理论基础。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈