FedAC: Ein adaptives, clusterbasiertes föderiertes Lernframework für heterogene Daten

Clusterbasiertes föderiertes Lernen (CFL) wird vorgeschlagen, um die Leistungsverschlechterung aufgrund von Datenheterogenität im föderierten Lernen (FL) zu mildern, indem ähnliche Klienten für das clusterweise Modelltraining gruppiert werden. Aktuelle CFL-Methoden haben jedoch Schwierigkeiten aufgrund unzureichender Integration von globalem und intra-cluster Wissen sowie dem Fehlen einer effizienten Online-Modellähnlichkeitsmetrik. Außerdem begrenzt die Behandlung der Clusteranzahl als festen Hyperparameter Flexibilität und Robustheit. In diesem Papier schlagen wir ein adaptives CFL-Framework namens FedAC vor, welches (1) globales Wissen effizient in das intra-cluster Lernen integriert, indem neuronale Netzwerke entkoppelt werden und unterschiedliche Aggregationsmethoden für jedes Submodul genutzt werden, was die Leistung erheblich steigert; (2) eine kosteneffiziente Online-Modellähnlichkeitsmetrik basierend auf Dimensionsreduktion umfasst; (3) ein Modul zur Feinabstimmung der Clusteranzahl integriert, um die Anpassungsfähigkeit und Skalierbarkeit in komplexen, heterogenen Umgebungen zu verbessern. Umfangreiche Experimente zeigen, dass FedAC überlegene empirische Leistung erzielt, die Testgenauigkeit um etwa 1,82% und 12,67% auf den Datensätzen CIFAR-10 und CIFAR-100, jeweils unter unterschiedlichen nicht-IID-Bedingungen im Vergleich zu SOTA-Methoden steigert.