Timestral

Hugging Face Daily Papers 论文

摘要

Timestral 是一个包含四个时间序列基础模型(参数量从 500 万到 2.09 亿)的模型家族,通过解耦预测时域、原生支持未来协变量,以及先进行合成数据预训练再进行混合后训练,在 GIFT-Eval、TIME 和 fev-bench 上实现了最先进的概率预测性能。

我们推出 Timestral,这是一个用于概率预测的时间序列基础模型系列,包含四个模型,参数量分别为 5M、28M、123M 和 209M。Timestral 在 GIFT-Eval、TIME 和 fev-bench 上刷新了最佳表现,其中 Timestral-209M 和 Timestral-123M 在每项指标上均包揽前两名。我们通过三个关键要素实现这一成果:解耦预测跨度预测(Decoupled Horizon Forecasting,DHF),将预测词元与因果编码的上下文分离,从而在训练更长预测跨度时无需屏蔽上下文,并使每个观测值既作为预测目标,也作为后续预测的上下文;一个在因果架构中原生支持未来已知协变量的协变量框架;以及一个两阶段流程,先仅使用多样化的大规模合成语料进行预训练,再使用真实数据和合成数据的混合数据,并扩展上下文长度进行后训练。本报告介绍了模型设计及其基准测试结果。全部四个模型的权重均已在 Hugging Face 上发布,推理代码已在 GitHub 上发布。
查看原文
查看缓存全文

缓存时间: 2026/10/28 05:25

论文页面 - Timestral

来源:https://huggingface.co/papers/2610.37585 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

Timestral 是一个时间序列基础模型系列,通过解耦预测范围、原生支持未来协变量,以及先进行合成数据预训练再进行混合数据后训练,实现了最先进的概率预测性能。

我们推出 Timestral,这是一个包含四个时间序列基础模型 (https://huggingface.co/papers?q=time%20series%20foundation%20models)的系列,用于概率预测 (https://huggingface.co/papers?q=probabilistic%20forecasting),参数量分别为 5M、28M、123M 和 209M。Timestral 在 GIFT-Eval、TIME 和 fev-bench 上树立了新的最佳水平,其中 Timestral-209M 和 Timestral-123M 在每项指标上均包揽前两名。我们通过三个要素实现了这一点:解耦预测范围 (https://huggingface.co/papers?q=Decoupled%20Horizon%20Forecasting)(DHF),将预测词元与经过因果编码的上下文分离,从而在不遮蔽上下文的情况下训练更长的预测范围,并使每个观测值既作为预测目标,又作为后续预测的上下文;一个在因果架构中原生支持已知未来协变量 (https://huggingface.co/papers?q=known-future%20covariates)的协变量框架;以及一个两阶段流程,先仅使用多样化的大规模合成语料进行预训练,再使用真实数据与合成数据的混合数据进行后训练 (https://huggingface.co/papers?q=post-training),并扩展上下文长度。本报告介绍了模型设计及其基准测试结果。所有四个模型的权重均已在 Hugging Face 上提供,推理代码已在 GitHub 上提供。

查看 arXiv 页面 (https://arxiv.org/abs/2610.37585)查看 PDF (https://arxiv.org/pdf/2610.37585)添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.37585)

在你的智能体中获取这篇论文:

hf papers read 2610\.37585

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

暂无链接到这篇论文的模型

在模型的 README.md 中引用 arxiv.org/abs/2610.37585,即可从此页面链接到该模型。

引用这篇论文的数据集0

暂无链接到这篇论文的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2610.37585,即可从此页面链接到该数据集。

引用这篇论文的 Space0

暂无链接到这篇论文的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2610.37585,即可从此页面链接到该 Space。

包含这篇论文的收藏集0

暂无包含这篇论文的收藏集

将这篇论文添加到收藏集 (https://huggingface.co/new-collection),即可从此页面链接到该收藏集。

相似文章

Timestral:Mistral 的时间序列基础模型

Lobsters Hottest

Mistral 发布 Timestral 时间序列基础模型家族,包含 5M 到 209M 参数四个版本,其 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三大基准上均排名第一,支持零样本概率多变量预测且可在 CPU 上推理。

mistralai/Timestral

Reddit r/LocalLLaMA

Mistral 发布 Timestral 时间序列基础模型家族(500 万/2800 万/1.23 亿/2.09 亿参数),支持零样本预测、单变量与多变量预测及概率输出,2.09 亿参数版本的代码与权重已在 GitHub 和 Hugging Face 开源。

mistralai/Timestral-209M

Hugging Face Models Trending

Mistral AI 发布 Timestral 时间序列基础模型系列(5M/28M/123M/209M),209M 版本在 GIFT-Eval、TIME 和 fev-bench 上实现零样本预测的最先进精度,并开源代码。

一个102M参数的Transformer如何预测多元时间序列?

Reddit r/artificial

本文通过可视化方式介绍了t0-alpha——一个1.016亿参数的基础模型,用于多元时间序列预测。该模型将时间注意力与跨变量组注意力分离,在GIFT-Eval上取得了具有竞争力的CRPS分数,与TimesFM 2.5和Chronos-2等更大模型相当。