Enquête sur l'apprentissage par transfert dans les réseaux neuronaux graphiques

Les réseaux neuronaux graphiques (GNN) s'appuient sur le succès des modèles d'apprentissage profond en les étendant pour une utilisation dans les espaces graphiques. L'apprentissage par transfert a prouvé son extrême efficacité pour les problèmes d'apprentissage profond traditionnels, entraînant un entraînement plus rapide et une amélioration des performances. Malgré l'intérêt croissant pour les GNN et leurs cas d'utilisation, il y a peu de recherches sur leur transférabilité. Cette recherche démontre que l'apprentissage par transfert est efficace avec les GNN et décrit comment les tâches sources et le choix de GNN impactent la capacité à apprendre des connaissances généralisables. Nous réalisons des expériences en utilisant des données réelles et synthétiques dans les contextes de classification de nœuds et de classification de graphiques. À cette fin, nous proposons également une méthodologie générale pour l'expérimentation de l'apprentissage par transfert et présentons un nouvel algorithme pour générer des tâches de classification de graphiques synthétiques. Nous comparons les performances de GCN, GraphSAGE et GIN sur des ensembles de données synthétiques et réelles. Nos résultats montrent empiriquement que les GNN avec des opérations inductives produisent un transfert amélioré de manière statistiquement significative. De plus, nous montrons que la similarité dans la structure communautaire entre les tâches sources et cibles soutient des améliorations statistiquement significatives dans le transfert, par rapport à l'utilisation uniquement des attributs des nœuds.