SplitAVG: Eine heterogenitätsbewusste föderierte Deep-Learning-Methode für medizinische Bildgebung

Föderiertes Lernen ist ein aufkommendes Forschungsparadigma, das es ermöglicht, Deep-Learning-Modelle kollaborativ zu trainieren, ohne Patientendaten zu teilen. Allerdings sind die Daten aus verschiedenen Institutionen in der Regel heterogen, was die Leistung von Modellen, die mit föderiertem Lernen trainiert wurden, verringern kann. In dieser Studie schlagen wir eine neuartige heterogenitätsbewusste föderierte Lernmethode, SplitAVG, vor, um die Leistungsabfälle aufgrund von Datenheterogenität im föderierten Lernen zu überwinden. Im Gegensatz zu früheren föderierten Methoden, die komplexe heuristische Trainings- oder Hyperparameterabstimmung erfordern, nutzt unser SplitAVG die einfachen Strategien der Netzwerkaufteilung und der Verkettung von Merkmalskarten, um das föderierte Modelltraining zu einem unverzerrten Schätzer der Zielverteilung zu fördern. Wir vergleichen SplitAVG mit sieben modernen föderierten Lernmethoden, wobei wir zentral gehostete Trainingsdaten als Basislinie auf einer Reihe von sowohl synthetischen als auch realistischen föderierten Datensätzen verwenden. Wir stellen fest, dass die Leistung der mit allen Vergleichsverfahren trainierten Modelle signifikant abnahm, als die Datenheterogenität zunahm. Im Gegensatz dazu erreicht die SplitAVG-Methode unter allen heterogenen Einstellungen Ergebnisse, die mit der Basislinie vergleichbar sind, und erzielt 96,2 % der Genauigkeit und 110,4 % des mittleren absoluten Fehlers, die von der Basislinie in einem Datensatz zur binären Klassifizierung der diabetischen Retinopathie und einem Datensatz zur Knochenaltervorhersage erreicht wurden, jeweils bei hochheterogenen Datenpartitionen. Wir schließen daraus, dass die SplitAVG-Methode die Leistungsabfälle aufgrund von Variabilität in den Datenverteilungen zwischen Institutionen effektiv überwinden kann. Experimentelle Ergebnisse zeigen auch, dass SplitAVG an verschiedene Basis-Convolutional Neural Networks (CNNs) angepasst und auf verschiedene Arten von medizinischen Bildgebungsaufgaben verallgemeinert werden kann. Der Code ist öffentlich verfügbar unter https://github.com/zm17943/SplitAVG.