多変量時系列予測のためのデカップルド不変注意ネットワーク

時系列予測（TSF）において、より正確な予測結果を達成するためには、空間的・時間的関係の中で価値のあるパターン（不変パターン）と、分布のシフトを引き起こしやすいパターン（変動パターン）を区別し、それらを組み合わせて予測を行うことが不可欠です。従来の研究、たとえばトランスフォーマーベースのモデルやGNNベースのモデルは、安定しているかどうかにかかわらず、主要な予測依存関係を捉えることに焦点を当てており、有用な情報と分布のシフトの両方を含むパターンを見落としがちです。本論文では、時系列予測を改善するためのモデルであるデカップルド不変注意ネットワーク（DIAN）を提案します。このモデルは、空間的および時間的関係をそれぞれ学習するための2つのモジュールを含んでいます：1）空間デカップルド不変・変動学習（SDIVL）は、空間の不変および変動注意スコアをデカップルし、その後、畳み込みネットワークを活用して次の層に効果的に統合します；2）時間的拡張不変・変動学習（TAIVL）は、時間的な不変および変動パターンをデカップルし、それらを組み合わせてさらに予測を行います。このモジュールでは、時間スタンプにわたる変動パターンを再構成することによって複数の介入サンプルを作成するための時間的介入メカニズムも設計しています。さらに、すべての不変パターン、変動パターンおよび介入パターンを考慮して損失関数を最小化するための共同最適化を提案し、モデルがより安定した予測能力を得られるようにします。五つのデータセットに関する広範な実験は、最先端の手法と比較して、より高い効率での優れた性能を示しました。