Se défendre contre les attaques de porte dérobée sur les données et le modèle dans l'apprentissage fédéré

L'apprentissage fédéré (FL) peut réaliser un entraînement collaboratif de modèle sans transférer les données locales, ce qui peut améliorer considérablement l'efficacité de l'entraînement. Cependant, FL est vulnérable aux attaques de porte dérobée sur les données et le modèle. Pour répondre à l'attaque de porte dérobée sur les données, dans cet article, nous proposons une méthode de défense nommée TSF. TSF transforme les données du domaine temporel au domaine fréquentiel et conçoit ensuite un filtre passe-bas pour atténuer l'impact des signaux à haute fréquence introduits par les échantillons de porte dérobée. De plus, nous appliquons un chiffrement homomorphe sur les mises à jour locales pour empêcher le serveur d'inférer les données de l'utilisateur. Nous introduisons également une méthode de défense contre l'attaque de porte dérobée sur le modèle, nommée détection de similarité de champ de texte chiffré pour la vie privée différentielle (CFSD-DP). CFSD-DP filtre les mises à jour malveillantes en utilisant la détection de similarité cosinus dans le domaine du texte chiffré. Elle perturbe le modèle global en utilisant un mécanisme de vie privée différentielle pour atténuer l'impact de l'attaque de porte dérobée sur le modèle. Elle peut efficacement détecter les mises à jour malveillantes et protéger la vie privée du modèle global. Les résultats expérimentaux montrent que le TSF et le CFSD-DP proposés ont une dégradation de 73,8 % de la précision de la porte dérobée tout en n'ayant qu'un impact de 3 % sur la précision de la tâche principale par rapport aux meilleurs schémas existants. Le code est disponible sur https://github.com/whwh456/TSF.