sharpness-regularization

标签

Cards List
#sharpness-regularization

平坦性代理并非函数时:鲁棒性证书与训练干预手段

arXiv cs.LG ↗ · 2天前 缓存

本文指出,仅仅作为有效的曲率上界,并不足以证明使用末层相对平坦性代理作为对抗鲁棒性证书或可微训练正则化手段的合理性。作者推导出一种规范不变的修复方法,展示了该代理在保持对称性的 softmax 平移下是无界的,并通过 CIFAR-10 实验表明:经商空间正则化后的预测器保持了对齐性,而直接进行原始正则化的预测器的泛化能力可能被抑制。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈