标签
本文提出了 Fourier Feature Networks (FENs),一种使用傅里叶特征求解偏微分方程的单隐藏层神经网络架构,其精度高于无需仿射变换的 Extreme Learning Machines。
本文构造了一个具有线性自注意力的Transformer,该Transformer对简单线性回归执行闭式最小二乘解的上下文学习,利用层归一化来近似解析解,而非梯度下降。
提出了一种用于MIONet的混合最小二乘/梯度下降方法,通过利用交替最小二乘法优化多个分支网络的最后一层参数,并借助Kronecker和Khatri-Rao乘积,从而加速训练。
本文提出了一种使用block Lewis weights进行组分布鲁棒最小二乘回归的算法,与内点法相比实现了改进的复杂度。它还提供了在平均损失和鲁棒损失之间进行插值的算法。
这项模拟研究考察了线性回归中含污染数据的最小二乘插值的双重下降现象,比较了最小二乘插值器与稳健替代方法的性能。