Architecture de Transformateur Non-Stationnaire : Un Cadre Polyvalent pour les Systèmes de Recommandation

Les systèmes de recommandation sont essentiels pour naviguer dans le vaste marché numérique. Cependant, la nature dynamique et non-stationnaire des données utilisateurs entrave souvent leur efficacité. Les modèles traditionnels peinent à s'adapter aux préférences et comportements en évolution propres aux données d'interaction des utilisateurs, représentant un défi significatif pour la prédiction et la personnalisation précises. Pour remédier à cela, nous proposons un nouveau cadre théorique, le transformateur non-stationnaire, conçu pour capturer et exploiter efficacement les dynamiques temporelles au sein des données. Cette approche améliore l'architecture de transformateur traditionnel en introduisant des mécanismes tenant compte des éléments non-stationnaires, offrant une solution robuste et adaptable pour les systèmes de recommandation multitâches. Notre analyse expérimentale, englobant les paradigmes d'apprentissage profond (DL) et d'apprentissage par renforcement (RL), démontre la supériorité de notre cadre par rapport aux modèles de référence. Les résultats empiriques confirment l'efficacité de notre cadre proposé, qui fournit des améliorations significatives de performance, d'environ 8 % de réduction de LogLoss et jusqu'à 2 % d'augmentation du score F1 par rapport à d'autres modèles liés à l'attention. Il souligne également son potentiel d'applicabilité dans des scénarios de récompense cumulative avec des modèles d'apprentissage par renforcement pur. Ces résultats plaident en faveur de l'adoption de modèles de transformateurs non-stationnaires pour aborder les complexités des tâches de recommandation d'aujourd'hui.