# TimesFM ## 定義 TimesFM(Das+, ICML 2024、"A decoder-only foundation model for time-series forecasting")は decoder-only の[[時系列基盤モデル]]。時系列パッチを residual block で埋め込んでより複雑な表現の学習を可能にし、decoder-only アーキテクチャを適用する。([[@2025__arXiv__Cisco Time Series Model Technical Report]] からの言及) ## 役割・位置づけ - **Cisco TSM の基盤**: Cisco Time Series Model は TimesFM のアーキテクチャ改変(特殊トークン + 解像度埋め込み)として構築され、TimesFM からの継続事前学習(CPT)で 500M パラメータに育てる。patching/padding、residual block、decoder-only transformer 層、un-embedding の構成と実装は TimesFM に従う。解像度埋め込みは TimesFM の frequency embedding に概念的に近い。 - **ベースライン**: 評価では TimesFM-2.0・TimesFM-2.5 が比較対象。観測データでは Cisco TSM が上回り、GIFT-Eval の長コンテキスト部分集合でも TimesFM 2.0 を上回る(同等以上を保つ)。 - コンテキストウィンドウは初期 512〜4,096 点、最新の TimesFM 2.5 で 16,384 点まで拡張(Cisco TSM が問題視する「長コンテキストの制約」の代表)。 - TSFM のサーベイ [[@2025__arXiv__Foundation Models for Time Series - A Survey]] では、TimesFM(Das+, ICML 2024)は decoder-only・パッチベース・単変量・決定論的(MSE 損失)・200M パラメータとして分類される。非重複パッチで自己回帰生成し、ランダムマスキングで可変コンテキスト長に対応、zero-shot 予測向き。サーベイは多変量対応の欠如と固定長パッチのトレードオフを限界として挙げる。 - [[TimeCopilot]]([[@2025__arXiv__TimeCopilot]])の GIFT-Eval 実験では、MedianEnsemble を構成する 3 つの SOTA 基盤モデルの 1 つ([[Chronos-2]] + TimesFM + [[TiRex]])。単体(TimesFM-2.5、Google Research)でも CRPS・MASE の両ランクで上位に位置する(Figure 2)。 ## 関連 - エンティティ: [[Toto]]・[[Chronos-2]]・[[TiRex]](同じ TSFM 群の比較対象)/ [[TimeCopilot]](MedianEnsemble 構成要素) - 概念: [[時系列基盤モデル]] / [[エージェント型時系列予測]] - ソース: [[@2025__arXiv__Cisco Time Series Model Technical Report]] / [[@2025__arXiv__Foundation Models for Time Series - A Survey]] / [[@2025__arXiv__TimeCopilot]] - 関連 MOC: [[時系列基盤モデル - MOC]] ## 出典 - [[@2025__arXiv__Cisco Time Series Model Technical Report]] - [[@2025__arXiv__Foundation Models for Time Series - A Survey]](Table 2/§4.1.4: decoder-only TSFM としての TimesFM) - [[@2025__arXiv__TimeCopilot]](MedianEnsemble 構成要素 / GIFT-Eval 上位モデル)