WaNet -- Attaque de backdoor basée sur le déformation imperceptible

Avec l'essor de l'apprentissage profond et la pratique répandue d'utilisation de réseaux pré-entraînés, les attaques de backdoor sont devenues une menace de sécurité croissante suscitant de nombreux intérêts de recherche ces dernières années. Un modèle tiers peut être empoisonné lors de l'entraînement pour bien fonctionner dans des conditions normales mais se comporter de manière malveillante lorsqu'un motif déclencheur apparaît. Cependant, les attaques de backdoor existantes reposent toutes sur des déclencheurs de perturbation de bruit, les rendant perceptibles par les humains. Dans cet article, nous proposons plutôt d'utiliser des déclencheurs basés sur la déformation. La backdoor proposée surpasse les méthodes précédentes lors d'un test d'inspection humaine avec une large marge, prouvant sa furtivité. Pour rendre ces modèles indétectables par des défenseurs machines, nous proposons un nouveau mode d'entraînement, appelé le "mode de bruit". Les réseaux entraînés attaquent et contournent avec succès les méthodes de défense à la pointe de la technologie sur des ensembles de données de classification standards, y compris MNIST, CIFAR-10, GTSRB et CelebA. Les analyses de comportement montrent que nos backdoors sont transparentes à l'inspection du réseau, prouvant encore l'efficacité de ce nouveau mécanisme d'attaque.