FLDetector: 악성 클라이언트 탐지를 통해 연합 학습을 모델 오염 공격으로부터 방어하기

연합 학습(FL)은 악성 클라이언트가 조작된 모델 업데이트를 서버에 전송하여 글로벌 모델을 손상시키는 모델 오염 공격에 취약합니다. 기존의 방어 방법은 주로 비잔틴 강건성 또는 증명 가능한 강건한 FL 방법에 의존하며, 이는 일부 클라이언트가 악성일지라도 정확한 글로벌 모델을 학습하는 것을 목표로 합니다. 그러나 이들은 소수의 악성 클라이언트에 대해서만 저항할 수 있습니다. 다수의 악성 클라이언트에 대해 모델 오염 공격을 방어하는 방법은 여전히 해결해야 할 도전 과제입니다. 우리의 FLDetector는 악성 클라이언트를 탐지하여 이 문제에 대응합니다. FLDetector는 비잔틴 강건성 또는 증명 가능한 강건한 FL 방법이 남아있는 클라이언트를 사용하여 정확한 글로벌 모델을 학습할 수 있도록 대다수의 악성 클라이언트를 탐지하고 제거하는 것을 목표로 합니다. 우리의 주요 관찰은 모델 오염 공격에서 클라이언트의 모델 업데이트가 여러 반복에서 불일치한다는 것입니다. 따라서 FLDetector는 모델 업데이트의 일관성을 확인하여 악성 클라이언트를 탐지합니다. 간단히 말해, 서버는 각 반복에서 클라이언트의 모델 업데이트를 이전 모델 업데이트에 기반하여 예측하고, 클라이언트로부터 수신된 모델 업데이트와 예측된 모델 업데이트가 여러 반복에서 불일치하는 경우 해당 클라이언트를 악성으로 표시합니다. 세 개의 벤치마크 데이터 세트에서의 광범위한 실험 결과, FLDetector는 여러 최첨단 모델 오염 공격 및 FLDetector에 맞춰진 적응형 공격에서 악성 클라이언트를 정확하게 탐지할 수 있음을 보여줍니다. 탐지된 악성 클라이언트를 제거한 후, 기존의 비잔틴 강건한 FL 방법은 정확한 글로벌 모델을 학습할 수 있습니다.