CastFSR：面向上下文感知时间序列预测的快-慢-反思智能体推理框架

# 面向上下文感知时间序列预测的 Fast–Slow–Reflect 智能体推理框架
Source: https://arxiv.org/html/2608.03031

Xiaoyu Tao, Mingyue Cheng, Bokai Pan, Chuang Jiang, Huanjian Zhang, Tian Gao, Yaguo Liu, Qi Liu, and Enhong Chen

###### 摘要

时间序列预测是复杂系统中决策的基础，未来动态不仅受历史观测的影响，还受不断演化的上下文特征的影响。近年来大语言模型（LLM）的进展已将预测从单纯的数值模式外推扩展到语义整合与上下文感知推理。然而，现有方法仍难以有效耦合内在时间动态与复杂上下文特征，通常缺乏在时间与领域约束下验证预测结果的显式机制。因此，它们无法可靠地确定哪些上下文是重要的、推理上下文如何重塑未来动态，或产生与知识一致的预测。在这项工作中，我们提出 CastFSR，一个将上下文感知时间序列预测形式化为 Fast–Slow–Reflect 工作流的智能体框架。在快速思考预测阶段，CastFSR 对观测进行画像，并自主选择合适的轻量级预测器以构建数据驱动的预测先验。在慢速深思推理阶段，它从长程上下文历史中检索相关证据，自适应地识别特定于上下文的回溯窗口，并推理上下文特征如何改变未来动态以细化预测先验。在反思性评估阶段，CastFSR 迭代地细化预测，以强制实现时间、上下文和领域一致性。CastFSR 可以直接使用现成的通用 LLM 实例化，无需任务特定适配即可实现免训练推理。或者，我们引入一种两阶段后训练策略，包括监督微调（SFT）和多轮强化学习（RL），使紧凑型 LLM 能够内化 CastFSR 的编排与推理能力，从而实现使用后训练模型的高效推理。在公开数据集上的大量实验表明，CastFSR 在代表性基线上取得了优越的性能。¹¹我们的代码可在 https://github.com/Xiaoyu-Tao/CastFSR 获取。

参见图注 图1：CastFSR 的图示，它集成了数值外推、上下文推理和知识约束反思，用于上下文感知时间序列预测。

## 引言

时间序列预测（TSF）在决策系统中发挥着关键作用，涉及能源管理 (Zhang et al. 2020 (https://arxiv.org/html/2608.03031#bib.bib49))、金融分析 (Palaskar et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib29))、交通系统 (Guo et al. 2019 (https://arxiv.org/html/2608.03031#bib.bib13)) 和环境感知 (Lu et al. 2026 (https://arxiv.org/html/2608.03031#bib.bib25))。在这些领域中，时间序列不仅是数值序列，更是系统的接口：记录值反映了在变化条件下的潜在演化 (Holland1992 (https://arxiv.org/html/2608.03031#bib.bib14); Ji et al. 2023 (https://arxiv.org/html/2608.03031#bib.bib16))，而未来趋势则受历史观测和上下文特征的影响 (Tao et al. 2026 (https://arxiv.org/html/2608.03031#bib.bib34))。这些因素并不总能仅从历史观测中推断出来，需要方法能够对时间模式和相关的外部上下文特征进行推理 (Ashok et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib2); Shao et al. 2024a (https://arxiv.org/html/2608.03031#bib.bib31))。已有大量方法被开发用于 TSF (Palaskar et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib29); Jin et al. 2023 (https://arxiv.org/html/2608.03031#bib.bib18))，涵盖统计模型 (Box et al. 2015 (https://arxiv.org/html/2608.03031#bib.bib5))、机器学习方法 (Masini, Medeiros, and Mendes2023 (https://arxiv.org/html/2608.03031#bib.bib27))、深度神经网络 (Cheng et al. 2025b (https://arxiv.org/html/2608.03031#bib.bib9)) 和基础模型 (Woo et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib42))。尽管这些方法在时间建模上取得了成功，但主要依赖历史观测，对演化上下文的支持有限 (Cheng et al. 2025a (https://arxiv.org/html/2608.03031#bib.bib7); Gao et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib12))。LLM 的最新进展通过将时间序列建模扩展到语义整合与推理，为上下文感知预测开辟了新机遇。现有研究探索了以语言兼容形式表示时间值，以利用预训练知识 (Jin et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib19))。更多近期研究已将基于 LLM 的预测扩展到以显式多步深思 (Cheng et al. 2026 (https://arxiv.org/html/2608.03031#bib.bib8); Wang et al. 2025 (https://arxiv.org/html/2608.03031#bib.bib37)) 为特征的推理驱动型上下文感知预测。然而，现有方法仍难以将时间动态与上下文特征耦合，缺乏识别相关上下文、推理影响以及根据领域约束验证预测结果的机制 (Jia et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib17); Chang et al. 2025 (https://arxiv.org/html/2608.03031#bib.bib6))。基于上述分析，我们将上下文感知 TSF 形式化为一个智能体顺序决策问题，协调数值预测、上下文证据和反思性验证。如图1 (https://arxiv.org/html/2608.03031#S0.F1) 所示，我们并不将 LLM 视为数值预测器，而是利用其推理能力来编排预测模型、整合异构上下文信息，并通过基于证据的深思来细化预测先验。然而，实现这样一个 Fast–Slow–Reflect 预测智能体会带来若干挑战。首先，智能体必须通过分析历史观测并选择合适的预测模型来构建可靠的预测先验，而不是依赖 LLM 生成 (Ji et al. 2023 (https://arxiv.org/html/2608.03031#bib.bib16))。其次，它必须检索与未来相关的上下文证据，并推理上下文因素如何影响未来动态，这要求自适应检索和多种工具间的协调 (Wu et al. 2026 (https://arxiv.org/html/2608.03031#bib.bib44))。第三，它必须根据时间规律性、上下文一致性和领域约束来验证预测 (Zhang et al. 2025 (https://arxiv.org/html/2608.03031#bib.bib50))。最后，应用这样的工作流需要灵活的部署策略，使推理过程能够被执行 (Deng et al. 2022 (https://arxiv.org/html/2608.03031#bib.bib11))。为应对上述挑战，我们提出 CastFSR，一个将上下文感知 TSF 形式化为顺序决策过程的智能体 Fast–Slow–Reflect 框架。在快速思考预测中，CastFSR 对历史观测进行画像，并自主选择合适的轻量级预测器以构建数据驱动的预测先验。在慢速深思推理中，它从长程上下文历史中检索未来相关证据，自适应地识别特定于上下文的回溯窗口，并推理上下文因素如何重塑未来动态以细化预测先验。在反思性评估中，CastFSR 迭代地评估和调整候选预测，以强制实现时间规律性、上下文一致性和领域约束。重要的是，CastFSR 支持灵活的部署：它可以直接用现成的 LLM 实例化以实现免训练执行，或者通过监督微调和多轮强化学习蒸馏到紧凑模型中，从而内化编排和推理能力。通过这种设计，CastFSR 超越了传统的模式外推，使预测系统能够确定何时历史模式是可靠的、何时上下文证据应修改预测，以及何时需要进一步评估。我们的主要贡献可概括如下：

- •我们引入了一种 Fast–Slow–Reflect 形式化，将上下文感知时间序列预测重构为一个整合数值预测、上下文推理和知识约束细化的智能体过程。
- •我们提出了 CastFSR，它通过自主选择预测器构建预测先验，通过上下文检索和影响推理对其进行细化，并通过时间、上下文和领域一致性检查验证预测。
- •我们使用通用 LLM 和紧凑模型实例化了 CastFSR，两者在代表性基线上均取得了强性能，其中两阶段训练在大多数基准上提升了整体性能。

## 相关工作

本节回顾两条互补的相关工作线索：时间序列预测的进展和智能体决策系统的发展。

### 时间序列预测

时间序列预测已从统计模型发展到机器学习、深度学习和基础模型。早期方法，包括自回归模型 (Winters1960 (https://arxiv.org/html/2608.03031#bib.bib41)) 和状态空间模型 (Hyndman and Khandakar2008 (https://arxiv.org/html/2608.03031#bib.bib15))，为外推历史模式提供了可解释的公式化方法。基于学习的方法，如循环网络 (Wang et al. 2019 (https://arxiv.org/html/2608.03031#bib.bib38))、时间卷积 (Cheng et al. 2025a (https://arxiv.org/html/2608.03031#bib.bib7)) 和 Transformer (Shi et al. 2025 (https://arxiv.org/html/2608.03031#bib.bib33))，改善了对复杂时间依赖关系的建模。最近，基础模型 (Ansari et al. 2025 (https://arxiv.org/html/2608.03031#bib.bib1)) 和大规模预训练架构 (Xue and Salim2023 (https://arxiv.org/html/2608.03031#bib.bib46)) 通过学习大规模时间序列语料库中的可迁移模式来增强泛化能力。尽管取得了这些进展，多数方法仍主要通过数值模式外推来推断未来值。为超越历史观测，许多研究纳入了额外信息 (Jin et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib19))。多变量方法对相关序列之间的依赖关系进行建模，而上下文感知方法引入上下文特征 (Liu et al. 2025a (https://arxiv.org/html/2608.03031#bib.bib22))。然而，这类信息通常在固定的单次推理过程中作为预定义输入提供 (Wu et al. 2021 (https://arxiv.org/html/2608.03031#bib.bib43))。因此，现有方法在主动检索未来相关上下文、评估历史模式是否仍然适用，以及当上下文因素重塑未来动态时自适应修正预测等方面仍然受限。

参见图注 图2：用于智能体时间序列预测的 CastFSR 框架概览。

### LLM 驱动的智能体

关于智能体和决策系统的研究在人工智能中有着悠久历史，特别是在强化学习和顺序决策优化方面 (Luo et al. 2025 (https://arxiv.org/html/2608.03031#bib.bib26))。经典强化学习学习将状态映射到动态环境中动作的策略，并已广泛应用于控制与决策问题。这些方法为顺序决策、长期目标和延迟反馈提供了原则性框架。最近，基于智能体的系统融入了更丰富的感知、推理和交互能力。表示学习和大型语言模型的进展使智能体能够执行多步推理、与外部工具交互以及执行复杂工作流 (Wei et al. 2022 (https://arxiv.org/html/2608.03031#bib.bib40))。工具增强型和推理导向型智能体通过迭代收集信息、调用工具和细化中间结果，在问答、代码生成和规划方面展示了强大性能 (Yao et al. 2022 (https://arxiv.org/html/2608.03031#bib.bib47))。同时，基于学习的决策已在数据驱动场景中得到探索，包括自适应模型选择、自动机器学习以及结构化动作空间上的策略学习 (Baratchi et al. 2024 (https://arxiv.org/html/2608.03031#bib.bib4))。这些方法凸显了在统一策略框架内协调多个组件的潜力，但主要在具有良好定义状态、动作和评估信号的领域中进行研究。

## 提出的 CastFSR

### 概述

如图2 (https://arxiv.org/html/2608.03031#Sx2.F2) 所示，CastFSR 将上下文感知 TSF 形式化为一个 Fast–Slow–Reflect 顺序决策过程。时间序列被视为动态系统的接口，未来演化既受历史模式也受上下文条件的影响。快速思考预测使用捕捉时间规律性的轻量级预测器构建数据驱动的预测先验，而慢速深思推理则利用 LLM 检索上下文证据并推理其对未来动态的影响。反思性评估进一步根据时间规律性和领域约束验证预测。同一工作流是模型无关的：它可以由现成的 LLM 在免训练设置下直接执行，也可以通过两阶段训练由紧凑策略模型内化。

### 顺序预测形式化

我们将 TSF 形式化为一个*顺序决策问题*，其中预测需要一系列决策，包括理解时间动态、选择数值先验、检索上下文证据、推理未来影响以及验证预测。设 \(\mathcal{I}=(\mathcal{D}_{\mathrm{task}},\mathcal{D}_{\mathrm{domain}},\mathbf{X}_{1:L},\mathcal{H}_{\mathrm{ctx}})\) 表示输入，其中 \(\mathcal{D}_{\mathrm{task}}\) 定义预测目标和预测水平，\(\mathcal{D}_{\mathrm{domain}}\) 提供领域属性，\(\mathbf{X}_{1:L}\) 表示历史回溯窗口，\(\mathcal{H}_{\mathrm{ctx}}\) 表示可用的上下文历史或未来已知的上下文资源。目标是预测未来值 \(\mathbf{Y}_{1:H}\) 并生成 \(\hat{\mathbf{Y}}_{1:H}\)。我们不将预测视为从历史到未来值的直接映射，而是将预测工作流表示为策略 \(\pi_{\theta}\)，该策略与预测环境交互至多 \(K\) 步。在第 \(k\) 步，智能体观察一个状态：

\[
s_{k}=\Phi(\mathcal{I},\mathcal{M}_{k},\hat{\mathbf{Y}}^{\mathrm{prior}}_{k},\mathcal{C}_{k}), \tag{1}
\]

其中 \(\mathcal{M}_{k}\) 表示维护的记忆状态，\(\hat{\mathbf{Y}}^{\mathrm{prior}}_{k}\) 是当前预测先验，\(\mathcal{C}_{k}\) 表示检索到的上下文证据。智能体随后选择一个动作：

\[
a_{k}\sim\pi_{\theta}(\cdot|s_{k}),\qquad a_{k}\in\mathcal{A}, \tag{2}
\]

其中 \(\mathcal{A}=\mathcal{A}_{\mathrm{fast}}\cup\mathcal{A}_{\mathrm{slow}}\cup\mathcal{A}_{\mathrm{reflect}}\cup\mathcal{A}_{\mathrm{final}}\) 包括快速思考预测、慢速深思推理