Apprentissage Collaboratif Décentralisé de Modèles Personnalisés sur Réseaux

Nous considérons un ensemble d'agents d'apprentissage dans un réseau collaboratif pair-à-pair, chaque agent apprend un modèle personnalisé selon son propre apprentissage. La question abordée dans cet article est : comment les agents peuvent-ils améliorer le modèle localement entraîné en communiquant avec d'autres agents ayant des objectifs ? Nous introduisons et analysons deux algorithmes de gossip asynchrones de manière entièrement décentralisée. Notre première approche, inspirée de la propagation, vise à lisser les modèles locaux pré-entraînés sur le réseau en tenant compte de la confiance que chaque agent a dans son modèle initial. Notre seconde approche, les agents apprennent et propagent conjointement leur modèle par des mises à jour itératives basées à la fois sur leur ensemble de données local et le comportement des voisins. Pour optimiser cet objectif difficile, notre approche décentralisée est basée sur l'ADMM.