TimesFM-3とは
TimesFM-3は、Google Researchが公開した時系列予測用の基盤モデルです。過去の一つの系列だけを見る単変量予測に加え、複数の関連系列、過去だけ分かる共変量、将来まで分かる動的共変量を組み合わせ、追加学習なしのゼロショットで予測できます。
売上予測なら、商品の過去売上だけでなく、関連商品の売上、来店数、天気予報、販促日、祝日などを同時に入力し、相互関係を予測へ反映できます。
主な仕様
- 3.3億パラメータ：実データと合成データを合わせ、1万億を超える時点からなるコーパスで事前学習されています。
- 多変量予測：複数の目的系列を同時に予測し、系列間の依存関係を扱います。
- 共変量：過去共変量と、予定や天気のように将来値が既知の動的共変量に対応します。
- 一回のforward pass：予測期間全体を非自己回帰で一括生成し、逐次生成による遅延と誤差蓄積を抑えます。
- 確率予測：各時点について10%から90%まで9つの分位点を出し、不確実性を確認できます。
- オープンソース：公式実装はApache License 2.0で公開されています。
仕組み
TimesFM-3はdecoder-only Transformerを使い、時系列を32時点のpatchへまとめます。時間方向には過去だけを見るcausal temporal attention、系列方向には同じ時点の全系列を見るfull variate attentionを交互に適用します。
将来期間にはmasked tokenを置き、既知の将来共変量は見える状態にしたまま、Contiguous Patch Maskingで予測期間全体を埋めます。
評価と注意点
GoogleはGIFT-Eval、FEV-Bench、TIMEの公開ベンチマークで、事前学習済み基盤モデルの中で点予測と確率予測の平均順位が最上位だったと報告しています。ただし、ベンチマーク結果は自社データでの精度を保証しません。
導入前には、季節性の変化、欠損、外れ値、系列ごとのスケール、予測期間、リーク、業務上の損失関数を固定し、既存の統計モデルや社内モデルと同じbacktestで比較してください。将来共変量に実績値を誤って入れると、評価が不自然に良くなる点にも注意が必要です。
こんな人におすすめ
- 店舗・商品を横断した需要予測を改善したいデータチーム
- 複数センサーを使う製造・設備監視を行う開発者
- 金融、医療、自然科学の時系列をゼロショットで試したい研究者
- 点予測だけでなく予測区間も必要な意思決定担当者