标签
该论文指出,现有的时间序列分词策略(分块分词和相位分词)会引入频谱泄漏和混叠等频谱失真,并提出了 TimeFT——一种无参数、几乎无失真的基于频率的分词器,可直接替换现有分词器,并提升预测、分类和异常检测任务的性能。
SpecKCast 是一种免训练的扩散 Transformer 推理加速方法,在频域中用逐频带 Kalman 滤波器预测模型输出并自适应调度去噪步,在 FLUX.1-dev、Qwen-Image、Wan2.1-14B 和 HunyuanVideo 上最高实现 6 倍加速,额外内存开销不足 0.05 GiB。
CoRe 提出了一种模型无关的学习目标,用于多元时间序列预测,该目标使用频率连贯性和关系图损失来提高预测精度,优于标准方法。
本文介绍了CoSPOT,一个基于LLM的在线时间序列预测框架,使用组合频谱提示来高效适应非平稳数据和未见模式。
本文提出了一种零样本时间序列异常检测框架,通过FFT的频域证据增强LLM输入,以更好地捕获结构异常。
DSTFView是一种用于云边工作负载预测的双输入时空频多视角框架,联合建模邻近性和周期依赖关系,并采用自适应融合机制捕获突变。
本文介绍FourierQK,一种对Transformer注意力中的学习查询和键投影应用基于FFT的频域预处理的方法,在字符级语言建模上实现了显著的验证损失降低。该方法保留了完整的注意力分数结构,并展示了相对于标准点积注意力的可复现收益。
本文介绍FRESCO,一种完全在频域运行的回声状态网络架构,将密集递归更新的复杂度降至O(N),在基准测试上达到最先进性能的同时降低了计算成本。