Apprentissage Fédéré Multi-Tâches sur des Silos de Données Non-IID : Une Étude Expérimentale

L'approche innovante d'Apprentissage Fédéré Multi-Tâches (FMTL) consolide les bénéfices de l'Apprentissage Fédéré (FL) et de l'Apprentissage Multi-Tâches (MTL), permettant l'entraînement collaboratif de modèles sur des ensembles de données d'apprentissage multi-tâches. Cependant, une méthode d'évaluation complète, intégrant les caractéristiques uniques de FL et MTL, est actuellement absente dans le domaine. Cet article comble ce vide en introduisant un nouveau cadre, FMTL-Bench, pour l'évaluation systématique du paradigme FMTL. Ce benchmark couvre divers aspects aux niveaux des données, du modèle et de l'algorithme d'optimisation, et comprend sept ensembles d'expériences comparatives, englobant un large éventail de scénarios de partitionnement de données non-indépendantes et identiquement distribuées (Non-IID). Nous proposons un processus systématique pour comparer les références de divers indicateurs et réalisons une étude de cas sur les dépenses de communication, le temps et la consommation d'énergie. À travers nos expériences exhaustives, nous visons à fournir des perspectives précieuses sur les forces et les limites des méthodes de référence existantes, contribuant au discours en cours sur l'application optimale de FMTL dans des scénarios pratiques. Le code source sera mis à disposition pour la réplication des résultats.