mistralai/Timestral
摘要
Mistral 发布 Timestral 时间序列基础模型家族（500 万/2800 万/1.23 亿/2.09 亿参数），支持零样本预测、单变量与多变量预测及概率输出，2.09 亿参数版本的代码与权重已在 GitHub 和 Hugging Face 开源。
https://preview.redd.it/zyoo32u7hnvh1.png?width=1400&format=png&auto=webp&s=f0dc824a831d10abc6b824afabb98c64e7fa9d40 来自 Mistral：Timestral 是一个用于零样本预测的时间序列基础模型系列，提供 500 万、2800 万、1.23 亿和 2.09 亿参数版本。本仓库包含 2.09 亿参数版本的模型检查点。Timestral 支持单变量和多变量预测、仅历史可用及未来已知的协变量，以及涵盖 21 个分位数的概率预测。它最多可接收 32,768 个历史时间步，并在一次前向传播中预测最多 1,024 个时间步。我们正在 GitHub 仓库中发布源代码，以便轻松运行 Timestral 并复现我们的基准测试结果。模型详情 规模：2.09 亿参数。架构：基于分块的 Transformer，采用时间注意力和变量注意力，共 24 层，嵌入维度为 768。分块：每个块包含 32 个时间步。每个块的嵌入由其数值及相应的缺失值指示信息共同生成。上下文长度：最多 32,768 个时间步（1,024 个块）。预测范围：一次前向传播最多预测 1,024 个时间步（32 个块）。更长范围的预测采用逐块方式进行，将每个块的中位数预测追加到上下文中。输出：21 个分位数（0.01、0.05、0.1、0.15、…、0.85、0.9、0.95、0.99）。输入：单变量或多变量目标变量，以及仅历史可用和未来已知的协变量，可以是数值型或类别型（类别型协变量采用目标编码）。缺失值标记为 NaN。推理：在 CPU 或 GPU 上使用 PyTorch。https://huggingface.co/mistralai/Timestral-209M https://huggingface.co/mistralai/Timestral-123M https://huggingface.co/mistralai/Timestral-28M https://huggingface.co/mistralai/Timestral-5M
相似文章
Hugging Face Models Trending
Mistral AI 发布 Timestral 时间序列基础模型系列（5M/28M/123M/209M），209M 版本在 GIFT-Eval、TIME 和 fev-bench 上实现零样本预测的最先进精度，并开源代码。
Lobsters Hottest
Mistral 发布 Timestral 时间序列基础模型家族，包含 5M 到 209M 参数四个版本，其 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三大基准上均排名第一，支持零样本概率多变量预测且可在 CPU 上推理。
Hugging Face Models Trending
Mistral AI 发布了 Mistral Medium 3.5，这是一款拥有 1280 亿参数的密集多模态模型，具备 256K 上下文窗口、可配置推理能力，并在指令遵循、推理和编程任务方面实现了性能提升。
Hacker News Top
Mistral 发布 Mistral Large 4（'Le Chonk'），一款原生多模态的 1T 参数模型，激活参数为 49B，声称在聚合基准测试中实现了最佳开源权重模型性能，并在网络安全防御、制造和金融等工作负载上取得最先进水平的结果。该模型完全在欧洲开发并可部署，现已通过 API 提供，开源权重预计于十月底发布。
Reddit r/artificial
Mistral AI 发布了其最大模型 Mistral Large 4（代号 le Chonk）：一个 1 万亿参数、490 亿激活参数的原生多模态开源权重模型，公开预览 API 已上线，完整权重将于月底开源，强调欧洲自主基础设施与 AI 主权。