هل تعتبر النماذج المحوّلة فعّالة في توقع السلاسل الزمنية؟

مؤخراً، شهدت حلول قائمة على المحولات للمهام طويلة الأمد في توقع السلاسل الزمنية (LTSF) زيادة ملحوظة. على الرغم من الأداء المتزايد على مدى السنوات القليلة الماضية، فإننا نتساءل عن صحة هذا الاتجاه البحثي في هذا العمل. تحديداً، من الممكن اعتبار المحولات الحل الأكثر نجاحاً لاستخراج الترابطات الدلالية بين العناصر في سلسلة طويلة. ومع ذلك، في نمذجة السلاسل الزمنية، يتعين علينا استخراج العلاقات الزمنية في مجموعة مرتبة من النقاط المتصلة. وفي حين أن استخدام الترميز الموضعي واستخدام الرموز لتضمين السلاسل الفرعية في المحولات يسهل الحفاظ على بعض المعلومات الترتيبية، فإن طبيعة آلية الانتباه الذاتي غير المتغيرة بالتبديل تؤدي بالضرورة إلى فقدان المعلومات الزمنية. لتأكيد ادعائنا، نُقدِّم مجموعة من النماذج الخطية أحادية الطبقة والتي نسميها LTSF-Linear للمقارنة. تظهر النتائج التجريبية على تسع مجموعات بيانات حقيقية أن LTSF-Linear يتفوق بشكل مدهش على النماذج المعقدة القائمة على المحولات في جميع الحالات، وغالباً بفارق كبير. علاوة على ذلك، نقوم بإجراء دراسات تجريبية شاملة لاستكشاف تأثيرات عناصر التصميم المختلفة لنماذج LTSF على قدرتها في استخراج العلاقات الزمنية. نأمل أن يفتح هذا الاكتشاف المدهش آفاق جديدة للبحث في مهمة LTSF. نحن أيضاً نوصي بإعادة النظر في صحة الحلول المستندة إلى المحولات لمهام تحليل السلاسل الزمنية الأخرى (مثل اكتشاف الشذوذ) في المستقبل. الكود متاح على: https://github.com/cure-lab/LTSF-Linear.