标签
本文评估了五种宏观经济预测模型族，发现 ARIMA 和神经常微分方程 (Neural ODE) 等约束较少的模型优于物理信息神经网络 (PINN) 等优先考虑结构约束的模型，表明结构先验在不匹配时可能扮演错误正则化器的角色。
本文提出了可训练耗散振荡器网络的记忆-稳定性-表现力三难困境，表明阻尼同时控制这三者并限制了可训练性，通过在20振荡器网络上的实验验证确认了理论界限。
作者将结构方程模型、神经常微分方程和类似DSPy的AI程序进行比较，认为它们都是用于定义和优化计算图的声明性框架，并论证了结构化流程对于可信AI代理至关重要。
本文介绍了动力学物理建模神经网络（DynPMNNs），这是一种连续时间深度学习架构，其中隐藏层由常微分方程定义。该方法基于再生核巴拿赫空间，具有生物启发性，在加州房屋数据集上展现出与标准神经ODE相当的性能，且参数更少。