IBM 发布最先进 Granite Time Series PatchTST-FM-r2 模型,采用商业友好型许可

Hugging Face Blog 模型

摘要

IBM 发布了 Granite Time Series PatchTST-FM-r2 模型,这是一个 385M 参数的基础模型,用于零样时间序列预测,在 GIFT-Eval 基准测试中表现顶尖,并采用商业友好的 Apache 2.0 许可。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/09/09 18:15

IBM发布采用商业友好许可的SOTA Granite时间序列PatchTST-FM-r2模型

来源:https://huggingface.co/blog/ibm-research/ibm-releases-sota-granite-time-series
高性能零样本预测与商业友好型开放许可

时间序列基础模型正在改变预测系统的构建方式。用户无需为每个数据集单独训练和维护模型,而是可以使用预训练模型进行零样本预测。

IBM发布了Granite时间序列PatchTST-FM-r2(https://huggingface.co/ibm-granite/granite-timeseries-patchtst-fm-r2),这是Granite TSFM系列的最新模型(GitHub代码库 (https://github.com/ibm-granite/granite-tsfm),博客 (https://research.ibm.com/blog/time-series-ai-enterprise))。作为前代PatchTST-FM-r1 (https://huggingface.co/ibm-granite/granite-timeseries-patchtst-fm-r1)的升级版本,PatchTST-FM-r2结合了更新的架构、更大的预训练语料库、概率预测、缺失值插补支持以及出色的零样本性能,模型参数规模约3.85亿。

截至2026年9月8日,该模型在GIFT-Eval基准测试的可复现零样本模型中,成为采用宽松商业友好型开源许可(Apache 2.0和OpenMDW 1.0)的性能最优的零样本模型。GIFT-Eval是一个综合性时间序列预测基准测试,旨在评估模型在多样化预测场景下的表现;该模型在可复现零样本模型中综合排名第二。

模型权重、架构、推理流程及复现基准测试结果所需代码均已开源。

本文将详细介绍该模型架构、深入分析基准测试结果、探讨训练数据与许可模式,并提供使用示例代码。最后,我们将展示如何借助Confluent产品 (https://events.confluent.io/early-access-flink-features) 将Granite时间系列模型应用于生产环境的流处理场景。

立即体验:在Hugging Face平台开放Granite时间序列PatchTST-FM-r2 (https://huggingface.co/ibm-granite/granite-timeseries-patchtst-fm-r2)

概要

  • 适用于需求、价格、能源负荷、交通、遥测数据及其他时间序列的通用零样本预测。
  • 约3.85亿参数规模,支持最长8192步上下文长度,灵活预测时长,通过99分位数预测头实现概率预测。
  • 模型主干采用conformer模块构建,结合多头自注意力与时间卷积,可同时捕获长时间和短时程的时间结构。
  • 宽松许可模型,在GIFT-Eval基准测试的可复现零样本类别中表现最优(采用Apache-2.0和OpenMDW-1.0双重许可,用户可任选其一)。
  • 开放权重、架构、推理流程及基准复现代码。

GIFT-Eval上的强零样本预测能力

基础模型在未针对特定时间序列训练时仍能保持泛化能力最具价值。因此我们首先关注零样本性能。

GIFT-Eval通过异构数据集和多样化预测场景对预测模型进行全面评估。在限制为零样本、可复现且评估无测试数据泄露的模型中,PatchTST-FM-r2截至2026年9月8日在CRPS和MASE指标上均排名第二(如图1、2所示,两项指标值越低越好)。特别值得注意的是,PatchTST-FM-r2是采用宽松商业友好许可的同类别模型中性能最高的。

可复现零样本模型的GIFT-Eval CRPS指标
图1. 领先可复现零样本模型的GIFT-Eval CRPS指标。PatchTST-FM-r2的几何平均CRPS为0.467,在此对比中仅次于TimesFM-3,在宽松许可模型中排名第一。

可复现零样本模型的GIFT-Eval MASE指标
图2. 领先可复现零样本模型的GIFT-Eval MASE指标。PatchTST-FM-r2的几何平均MASE为0.6846。蓝色柱体代表IBM时间序列基础模型团队发布的模型。

即使与允许使用基准训练数据的模型相比仍具竞争力

GIFT-Eval中部分模型被归类为预训练模型而非严格零样本模型。这些模型被允许将GIFT-Eval评估数据集的训练部分纳入其预训练语料。

即使将预训练模型加入对比(如图3、4所示),PatchTST-FM-r2仍保持领先位置:在可复现模型中CRPS排名第3、MASE排名第4。尽管部分竞争模型规模更大,该模型仍超越了包括Chronos-2、Timer-S1和Toto变体在内的多个预训练模型。

包含零样本与预训练可复现模型的GIFT-Eval CRPS指标
图3. 包含零样本与预训练可复现模型的GIFT-Eval CRPS指标。

包含零样本与预训练可复现模型的GIFT-Eval MASE指标
图4. 包含零样本与预训练可复现模型的GIFT-Eval MASE指标。

架构演进:相比PatchTST-FM-r1的改进

PatchTST-FM-r2保留了PatchTST系列高效的分块表征机制,但对内部架构进行了重新设计,可高效捕获长短期依赖关系并平滑分块间的预测结果——这些改进显著提升了误差指标。

主要改进是将标准Transformer层替换为结合卷积与多头自注意力的层结构。这种结构称为conformer层,其起源可追溯至语音处理应用 (https://arxiv.org/pdf/2005.08100)。

从PatchTST-FM-r1到基于Conformer的PatchTST-FM-r2架构演进 (https://cdn-uploads.huggingface.co/production/uploads/64b01b5252349201f972ba17/gYPoFfbdOqaT9nZmABON1.png)
图5. 从PatchTST-FM-r1到基于Conformer的PatchTST-FM-r2架构演进。

PatchTST-FM-r1模块将多头自注意力与前馈网络结合。在r2版本中,我们用conformer风格模块取代了这一结构,该模块包含围绕多头自注意力和时间卷积层的两个半步前馈层。

这种设计为模型提供了两种互补的时间序列推理机制。自注意力可建模分块间的长程关系,而卷积则提供对局部时间结构的归纳偏置。因此卷积组件能捕获更短期的相互作用,同时让注意力集中在更长时间跨度的关系上。这种现象在Transformer和Conformer版本的注意力模式中清晰可见(下图使用ETTh1数据集真实样本示例)。虽然Transformer的大部分自注意力(左图)集中在对角线附近(即捕获局部关系),但Conformer模块的注意力(右图)则呈现出长距离(远离对角线)关注点,这得益于卷积层覆盖短距离关系。主干网络中的Conformer模块使用交替的3和5卷积核尺寸,以{5,5,3,3}模式循环。

Transformer与Conformer注意力模式对比
图6. 使用ETTh1数据集真实样本对比Transformer(左)与Conformer(右)捕获的注意力模式。

此外,PatchTST-FM-r2采用50%重叠分块、汉明窗加权及重叠-相加预测法来平滑分块边界并提升预测精度。最后,架构增加了稳定性归一化,并将模块数量从20扩展至30个。

经过这些改进,最终模型拥有约3.85亿参数,支持最长8192步的超长上下文,并可灵活预测时长内99个分位数。模型同时提供点预测和分位数输出,以展示预测分布和不确定性区间。

训练数据

对于面向实际应用的基础模型,模型质量仅是考量因素之一。开发者越来越需要了解模型训练所用数据、基准数据是否泄露至训练集,以及模型部署的影响因素。

PatchTST-FM-r2使用结构化预训练语料库,包含四个来源:从GiftEvalPretrain精选的数据集;基于KernelSynth定制生成的合成数据(采用改进周期核与有限增强);使用Chronos方法生成但限定在GIFT-Eval评估集外的TSMixup语料库;以及约50万条合成CauKer序列(每条长度4096步)。

对企业用户而言,这种透明度与基准测试上的几个百分点提升同等重要。虽然这并不能替代组织自身的模型治理与许可审查,但相比不透明的预训练语料库,它能为用户提供更丰富的信息以进行评估。

面向研究实验与商业应用开放

为提供更多选择,Granite时间序列PatchTST-FM-r2采用Apache 2.0 (https://www.apache.org/licenses/LICENSE-2.0.txt)和OpenMDW 1.0 (https://raw.githubusercontent.com/OpenMDW/OpenMDW/refs/heads/main/1.0/LICENSE.openmdw)双重许可。用户可任选其一,两种许可均提供广泛的使用、修改和分发权利。其中Linux基金会的OpenMDW专为AI模型及相关材料设计许可框架。通过宽松开源许可提供模型,IBM旨在降低采用门槛,让组织、研究者和开发者能在不限制使用的许可保障下自信地构建技术生态。架构实现也通过Granite-TSFM代码库 (https://github.com/ibm-granite/granite-tsfm) 开放,并与PatchTST-FM-r1检查点保持向后兼容。

几行Python代码体验PatchTST-FM-r2

评估基础模型最便捷的方式是使用自己的时间序列数据。

安装Granite TSFM包:

pip install "granite-tsfm>=0.3.9"

然后直接从Hugging Face Hub加载PatchTST-FM-r2:

import pandas as pd
from tsfm_public import PatchTSTFMForPrediction, TimeSeriesForecastingPipeline

# 加载模型权重
model = PatchTSTFMForPrediction.from_pretrained(
    "ibm-granite/granite-timeseries-patchtst-fm-r2"
)

# 从ETTh读取示例数据
df = pd.read_csv(
    "https://raw.githubusercontent.com/zhouhaoyi/ETDataset/main/ETT-small/ETTh1.csv",
    parse_dates=["date"],
)

# 配置预测流程
pipe = TimeSeriesForecastingPipeline(
    model=model,
    id_columns=[],
    timestamp_column="date",
    target_columns=["HUFL"],
    max_context_length=model.config.context_length,
    context_length=512,
    prediction_length=64,
    impute_method=None,
    quantile_levels=[0.1, 0.5, 0.9],
    explode_forecasts=True,
    freq="1h",
)

# 基于输入数据框最后512个样本生成预测
forecast = pipe(df.iloc[-512:])

如您所见,无需微调或特定任务模型适配。该流程仅需序列近期历史即可生成未来预测,包括请求的分位数。

以上是基于公开数据的简单示例——您可以替换为自己的数据,包括需求、传感器遥测、CPU利用率、能耗、交易量、交通、价格或其他周期性采样时间序列。

使用自有数据测试:在Hugging Face Hub平台开放PatchTST-FM-r2 (https://huggingface.co/ibm-granite/granite-timeseries-patchtst-fm-r2)

从笔记本到流处理时间序列

本次发布连接着IBM Granite时间系列模型的更广泛布局,为产品组合增添新成员 (https://research.ibm.com/blog/time-series-ai-enterprise)。

针对数据持续到达而非静态数据框的应用场景,IBM与Confluent近期通过Confluent Cloud早期访问计划开放了部分Granite时间序列模型。初始产品组合包括PatchTST-FM-r1、FlowState-r1.1、TTM-r3和TSPulse。

该集成通过Confluent Cloud上的Apache Flink将基础模型推理直接嵌入流处理应用。预测和异常检测结果可从实时流生成,无需团队搭建独立的机器学习环境并迁移数据。

  • 阅读IBM公告 (https://www.ibm.com/new/announcements/ibm-granite-time-series-models-bring-real-time-forecasting-and-anomaly-detection-to-confluent-cloud)或
  • 注册早期访问计划 (https://events.confluent.io/early-access-flink-features)。

相似文章

使用 IBM Granite 时序模型进行集成预测

Hugging Face Blog

IBM Research 发布 Granite Timeseries Ensemble R1,将四个互补的开源 Granite 时序预测模型组合成一个统一接口,提供概率与分位数预测,无需重训练即可作为默认选择使用。

google-research/timesfm

GitHub Trending (daily)

Google Research 发布了 TimesFM 2.5,这是一个开源的时序基础模型,用于预测,拥有2亿参数、16000上下文长度,并支持最多1000步的分位数预测。该模型可在 PyPI 和 Hugging Face 上获取,支持通过 LoRA 进行微调,并集成到 Google 产品如 BigQuery ML、Google Sheets 和 Vertex Model Garden 中。

Granite Switch 4.1.1 — 像更新软件一样更新模型

Hugging Face Blog

IBM 发布 Granite Switch 4.1.1,这是其模块化 Switch 架构的一次向后兼容的补丁更新,新增了更新的多语言 Granite Speech 自动语音识别(ASR)模型和改进的 Decision 适配器,无需重新训练基础模型。