smoothness

标签

Cards List
#smoothness

高阶光滑非凸优化中尖锐的一阶下界

arXiv cs.LG · 2026-06-05 缓存

本文证明了在高阶光滑非凸优化中寻找ε-稳定点的无维数尖锐一阶下界,解决了Hessian-Lipschitz和三阶光滑情况下的公开问题。

0 人收藏 0 人点赞
#smoothness

非均匀光滑性下最速下降与Adam的收敛性

arXiv cs.LG · 2026-06-01 缓存

本文将非均匀光滑性假设推广到曲率与目标值呈仿射关系的目标函数,证明了最速下降法以及RMSProp和Adam的对角变体的收敛速率,并应用于逻辑回归和神经网络。

0 人收藏 0 人点赞
#smoothness

二次型三明治

Hacker News Top · 2026-05-20 缓存

一篇解释优化中强凸性和L-平滑性(即二次型三明治)概念及其在梯度下降性能中作用的文章。

0 人收藏 0 人点赞
#smoothness

仅靠拟合是不够的:极低量化大语言模型中的平滑性

arXiv cs.CL · 2026-05-12 缓存

本文探讨了极低量化大语言模型中的平滑性退化问题,认为除了数值精度外,保持平滑性对于维持模型性能至关重要。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈