GluonTS の事前トレーニング済みモデルのスイートである Chronos は、いくつかの重要な点で他の事前トレーニング済みモデルとは異なります。
1. ゼロショット予測: Chronos はゼロショット時系列予測用に設計されており、トレーニング中には見られなかった新しい時系列に対して正確な確率的予測を生成できます。これは、良好なパフォーマンスを達成するために特定のデータセットの微調整が必要な他のモデルとは対照的です[1][2]。
2. 言語モデル アーキテクチャ: Chronos モデルは、時系列値をバケットにトークン化し、トークンとして扱う言語モデル アーキテクチャに基づいています。このアプローチにより、新しい時系列データの効率的な処理と予測が可能になります[2][3]。
3. 事前トレーニング: Chronos モデルは、合成データ生成技術で強化されたオープンソースの時系列データの大規模なコーパスで事前トレーニングされます。この事前トレーニングにより、モデルは新しい未知のデータに適用できる時系列データの一般的なパターンと特徴を学習できるようになります[2][3]。
4. モデル サイズ: Chronos モデルには、タイニー (8M パラメータ)、ミニ (20M)、スモール (46M)、ベース (200M)、ラージ (710M) の 5 つのサイズがあります。これらのサイズにはさまざまなレベルの複雑さと計算要件があり、より大きなモデルでは効率的な推論のためにより強力なハードウェアが必要になります[2]。
5. 推論: 他のモデルとは異なり、Chronos モデルはタスク固有のトレーニングを実行しません。代わりに、推論中にデータセット内の時系列の数に線形にスケールする、より高価な計算を実行します。そのため、大規模なゼロショット予測タスクに適しています[2]。
6. 微調整: Chronos モデルはゼロショット パフォーマンス向けに設計されていますが、特定のデータセットで微調整して精度をさらに向上させることができます。この微調整は、一般的な深層学習技術とツールを使用して行うことができます[3]。
要約すると、Chronos は、ゼロショット予測、言語モデル アーキテクチャ、事前トレーニング、効率的な推論機能に重点を置いているため、GluonTS の他の事前トレーニング済みモデルよりも際立っています。これらの機能により、大規模で目に見えない時系列データを処理するための強力なツールになります。
引用:[1] https://ts.gluon.ai/stable/
[2] https://auto.gluon.ai/stable/tutorials/timeseries/forecasting-chronos.html
[3] https://arxiv.org/html/2403.07815v1
[4] https://github.com/awslabs/gluonts
[5] https://ts.gluon.ai/stable/tutorials/forecasting/quick_start_tutorial.html