Privacidad Diferencial Local y Central para la Robustez y Privacidad en el Aprendizaje Federado

El Aprendizaje Federado (FL) permite a múltiples participantes entrenar modelos de aprendizaje automático de manera colaborativa manteniendo sus conjuntos de datos locales mientras solo intercambian actualizaciones del modelo. Sin embargo, esto no está necesariamente exento de vulnerabilidades de privacidad y robustez, por ejemplo, a través de ataques de pertenencia, de propiedades y de puertas traseras. Este documento investiga si y hasta qué punto se puede utilizar la Privacidad Diferencial (DP) para proteger tanto la privacidad como la robustez en FL. Con este fin, presentamos una evaluación pionera de las técnicas de Privacidad Diferencial Local y Central (LDP/CDP) en FL, evaluando su viabilidad y efectividad. Nuestros experimentos muestran que ambas variantes de DP defienden contra ataques de puertas traseras, aunque con diferentes niveles de compensaciones entre protección y utilidad, pero de todos modos de manera más efectiva que otras defensas de robustez. DP también mitiga ataques de inferencia de pertenencia en caja blanca en FL, y nuestro trabajo es el primero en demostrarlo empíricamente. Sin embargo, ni LDP ni CDP defienden contra la inferencia de propiedades. En general, nuestro trabajo proporciona una metodología de medición integral y reutilizable para cuantificar las compensaciones entre robustez/privacidad y utilidad en FL diferentemente privado.