FedAC: 이질적 데이터를 위한 적응형 클러스터 연합 학습 프레임워크

클러스터 연합 학습(CFL)은 유사한 클라이언트를 그룹화하여 클러스터별 모델 학습을 통해 연합 학습(FL)에서 데이터 이질성으로 인해 발생하는 성능 저하를 완화하기 위해 제안되었습니다. 그러나 현재의 CFL 방법은 글로벌 및 클러스터 내 지식의 통합이 불충분하고 효율적인 온라인 모델 유사성 메트릭이 부족하여 어려움을 겪고 있으며, 클러스터 수를 고정 하이퍼파라미터로 처리하는 것은 유연성과 강인성을 제한합니다. 본 논문에서는 FedAC이라는 적응형 CFL 프레임워크를 제안합니다. 이 프레임워크는 (1) 신경망을 분리하고 각 서브 모듈에 대해 독특한 집계 방법을 활용하여 글로벌 지식을 클러스터 내 학습에 효율적으로 통합하여 성능을 크게 향상시킵니다; (2) 차원 축소를 기반으로 한 비용 효율적인 온라인 모델 유사성 메트릭을 포함합니다; (3) 복잡하고 이질적인 환경에서의 적응성과 확장성을 개선하기 위한 클러스터 수 미세 조정 모듈을 통합합니다. 광범위한 실험 결과, FedAC은 SOTA 방법에 비해 CIFAR-10 및 CIFAR-100 데이터셋에서 각각 약 1.82% 및 12.67%의 테스트 정확도를 증가시키며 우수한 실증 성과를 달성했습니다.