temporal-drift

本文研究是否可以通过将隐马尔可夫模型拟合到在连续时间窗口上训练的神经网络权重的轨迹，将随时间漂移的数据流划分为离散状态，结果表明恢复出的潜在状态与两个数据集上的迁移性能相关。

本文介绍了一项实证研究，比较不同神经架构（MLPs、CNNs、RNNs、预训练transformer）在图像和文本领域的时间分布偏移下的性能退化，发现利用局部特征的模型退化最快，而预训练编码器的漂移较为缓慢。