# MOMENT ## 定義 MOMENT は [[Auton Lab]]([[Carnegie Mellon University]] Robotics Institute)が開発した、時系列専用に事前学習されたオープンソース基盤モデル群([[@2024__ICML__MOMENT - A Family of Open Time-series Foundation Models]]、ICML 2024)。T5 型の Transformer エンコーダをベースに、パッチ化した時系列に対するマスク再構成タスクで事前学習する。Small(40M)・Base(125M)・Large(385M)の3サイズがあり、モデル重みは HuggingFace(AutonLab/MOMENT-1-large)で公開されている。 ## 役割・位置づけ - 長期予測・短期予測・分類・異常検知・補完という5つの時系列分析タスクを、単一の事前学習済みモデルからゼロショットまたは軽量な線形プロービングだけで解く汎用性を実証した。 - 事前学習コーパス [[Time Series Pile]] とセットで公開され、時系列基盤モデル研究のオープンなベースラインとして後続研究に頻繁に引用される(Time-MoE・Foundation Models for Time Series Survey・Time-Series Clustering ベンチマーク等)。 - クロスモーダル転移(画像・テキストのビット系列分類)でGPT-2・Flan-T5と同等の精度を示すなど、モデルの性質に関する経験的観察も豊富。 ## 関連 - エンティティ: [[Auton Lab]] / [[Carnegie Mellon University]] / [[Mononito Goswami]] / [[Time Series Pile]] / [[University of Pennsylvania]] - ソース: [[@2024__ICML__MOMENT - A Family of Open Time-series Foundation Models]] - 概念: [[時系列基盤モデル]] ## 出典 - [[@2024__ICML__MOMENT - A Family of Open Time-series Foundation Models]]