Apprentissage Décentralisé Énergétiquement Efficace Via la Sparsification de Graphes

Ce travail vise à améliorer l'efficacité énergétique de l'apprentissage décentralisé en optimisant la matrice de mélange, qui contrôle les besoins en communication pendant le processus d'apprentissage. Grâce à une analyse rigoureuse basée sur un algorithme d'apprentissage décentralisé à la pointe de la technologie, le problème est formulé comme une optimisation à deux niveaux, le niveau inférieur étant résolu par la sparsification de graphes. Une solution avec des performances garanties est proposée pour le cas particulier de la topologie de base complètement connectée et une heuristique gourmande est proposée pour le cas général. Des simulations basées sur une topologie réelle et un ensemble de données montrent que la solution proposée peut réduire la consommation d'énergie au nœud le plus chargé de 54 % à 76 % tout en maintenant la qualité du modèle entraîné.