标签
本文建立了神经网络训练与哈密顿-雅可比初值问题之间的精确对应关系,通过一个形变参数统一了深度学习架构。
本文识别神经网络训练为通过哈密顿-雅可比初值问题的搜索,表明残差网络、Transformer和RNN离散化了同一类粘性哈密顿-雅可比方程。推导出定量结果,包括极小极大最优泛化率、对抗鲁棒性界和闭式影响函数。