QuantFlow:一种基于联邦Mamba的后Transformer基础模型,用于时间序列预测

arXiv cs.LG 论文

摘要

QuantFlow引入了一种基于联邦Mamba的时间序列预测基础模型,该模型结合了逆序嵌入、双向状态空间解码器和分位数回归,在保持数据隐私的同时在基准测试上取得了强劲结果。

arXiv:2607.02632v1 公告类型:新论文 摘要:时间序列预测支持金融、能源、交通、公共卫生和工业监控中的决策。最近的基础模型改善了跨预测任务的迁移能力,但许多模型依赖于集中式数据和Transformer注意力机制,这限制了它们在长序列、高维度和隐私敏感信号中的应用。本文提出了QuantFlow,一个概率预测框架,结合了逆序嵌入、双向Mamba状态空间解码器、分位数回归和联邦学习。每个变量在完整的观测窗口上进行嵌入,经过正向和反向处理,并投影到五个条件分位数。TSMixup通过狄利克雷加权插值扩展时间多样性,同时保持序列结构。实验涵盖了加密货币、交通、电力、电力变压器温度、流感和天气数据。QuantFlow在ETTm1上取得了0.2834的均方误差,在Weather上取得了0.2218,并且一个20客户端非独立同分布部署在三个通信轮次后仍保持有用的准确性,而无需集中原始记录。结果表明,选择性状态空间建模是可扩展、不确定性感知和隐私意识的时间序列预测的一个有前景的基础,同时也揭示了在不规则流行病学信号和长期泛化方面的局限性。
查看原文
查看缓存全文

缓存时间: 2026/07/07 04:39

# QuantFlow: 一种基于联邦Mamba的后Transformer时序预测基础模型
来源: https://arxiv.org/abs/2607.02632
查看PDF (https://arxiv.org/pdf/2607.02632)

> 摘要:时间序列预测为金融、能源、交通、公共卫生和工业监测等领域的决策提供支持。近期的基础模型提升了跨预测任务的迁移能力,但许多模型依赖于集中式数据和Transformer注意力机制,这限制了它们在长序列、高维度和隐私敏感型信号中的应用。本文提出QuantFlow,一种结合反向序列嵌入、双向Mamba状态空间解码器、分位数回归和联邦学习的概率预测框架。每个变量在完整观测窗口上嵌入,经过正向和反向处理,投影到五个条件分位数上。TSMixup通过狄利克雷加权插值扩展时间多样性,同时保持序列结构。实验涵盖加密货币市场、交通、电力、电力变压器温度、流感和天气数据。QuantFlow在ETTm1上获得0.2834的均方误差,在Weather上获得0.2218,并且在20个客户端非独立同分布部署中,经过三轮通信后仍保持有效精度,无需集中原始记录。结果表明,选择性状态空间建模是可扩展、具有不确定性意识且注重隐私的时间序列预测的一个有前景的基础,同时也揭示了在不规则流行病学信号和长时域泛化方面的局限性。

## 提交历史

来自: Shah Nawaz Haider \[查看邮箱 (https://arxiv.org/show-email/da556a1f/2607.02632)\] **\[v1\]**2026年7月2日星期四 14:16:48 UTC (454 KB)

相似文章

SDFlow:用于时间序列生成的相似性驱动流匹配

arXiv cs.AI

本文介绍了 SDFlow,这是一种用于时间序列生成的相似性驱动流匹配框架,旨在解决自回归模型中的暴露偏差问题。通过在冻结的 VQ 潜在空间中进行低秩流形分解,SDFlow 实现了最先进的性能并显著提升了推理速度。

StateFlow: 用于长时域时间序列预测的双状态循环建模

arXiv cs.LG

本文介绍了StateFlow,一种循环预测框架,它通过使用双状态循环主干和基于块的解码器,将变异性感知递归神经网络(VARNN)扩展到长期多变量时间序列预测,在强基线方法中取得了竞争性性能。

用于时间序列预测的仅解码器基础模型

Papers with Code Trending

本文介绍了一篇关于时间序列基础模型(TimeFM)的研究论文,这是一种仅解码器模型,通过借鉴大型语言模型技术,在多样化的时间序列数据集上实现了近乎最佳的零样本性能。