据MarkTechPost报道,Mistral AI于2026年10月19日发布其首个时间序列基础模型系列Timestral。该系列包含5M、28M、123M和209M四个稠密参数版本,面向零样本预测;Mistral称209M版本在GIFT-Eval、TIME和fev-bench三项评测的零样本预训练模型中排名第一,且推理不需要GPU。
Timestral被定义为一类时间序列基础模型:先在大规模、多样化语料上预训练,再对未见数据做零样本预测。与ARIMA逐条拟合、PatchTST等深度模型通常需在每个数据集上从头训练不同,Timestral试图跨领域迁移模式。每个模型在每个时间步输出21个分位数,可联合预测多变量目标,并接受仅历史、已知未来和类别协变量。其上下文长度最高为32768个时间步,单次前向可预测最多1024步,更长预测按块推进,并把每块的中位数反馈为上下文。
据MarkTechPost介绍,Timestral采用因果、基于patch的Transformer,包含时间注意力和变量注意力。209M模型有24层,嵌入维度768,每个patch覆盖32个时间步。Mistral列出四项技术设计:解耦预测视野(DHF)让学习到的预测token读取完整历史,观测值保留在上下文中而不被掩码;协变量感知注意力将每条序列标记为目标、仅历史协变量或已知未来协变量,信息只从协变量流向目标,以避免未来信息泄漏;训练数据以合成数据为主,包含趋势、季节性、噪声和非线性跨序列依赖;训练分两阶段,先在8192上下文长度的合成数据上预训练,再在混合数据上以四倍更长的上下文做后训练,损失为21个分位数上的pinball损失。
评测数字来自Timestral-209M模型卡,均为零样本、单检查点且未集成。GIFT-Eval上MASE为0.658、CRPS为0.446,TIME上分别为0.626和0.522,fev-bench的SQL skill分数为50.39、MASE skill分数为39.49,前两项越低越好,后两项越高越好。Mistral称,fev-bench SQL分数50.39领先Google的TimesFM-3的48.99;但在GIFT-Eval上,0.658的MASE仅比t0-gamma的0.661好0.003。参数规模在高端趋于平坦:123M版本GIFT-Eval MASE为0.659,209M为0.658。Mistral团队还称,28M版本在GIFT-Eval和TIME上超过约四倍大的Chronos-2。
CPU测试使用8线程标准服务器CPU,任务为根据3周15分钟粒度历史预测未来1天。5M模型耗时10毫秒,209M模型耗时140毫秒;28M模型比209M快5倍;123M模型在约四分之三的延迟下,分数与209M相差不超过0.2%。
与同类模型相比,TimesFM-3由Google Research开发,参数330M,采用仅解码器结构和连续patch掩码,权重许可为非商业v1.0;Chronos-2由Amazon开发,参数120M,采用仅编码器结构和分组注意力,上下文8192步,输出9个分位数,许可为Apache 2.0;Datadog的Toto-2.0-2.5B模型参数为2.5B,fp32权重9.1GB,许可为Apache 2.0。Timestral-209M的fp32权重为837MB,许可为修改版MIT。模型卡列出的Toto-2.0 TIME指标为0.642/0.539,而Datadog模型卡为0.640/0.532;Google和Amazon未在各自模型页面公布与模型卡完全对应的数字。
开发者可通过pip install git+https://github.com/mistralai/timestral.git安装,需要Python 3.10+和torch 2.4+,依赖PyTorch、NumPy、safetensors和huggingface_hub。权重从Hugging Face下载:5M为21MB,28M为111MB,123M为490MB。Mistral文档将Timestral 1.0 209M列为Public Preview,专有数据微调通过Mistral Forge进行,管线可部署在本地、VPC或气隙环境;该系列开放权重和推理代码。