Protection par Gradient : Vers une compréhension de la vulnérabilité des réseaux de neurones profonds

Les réseaux de neurones profonds (DNN) ont été largement adoptés mais ils sont vulnérables à des exemples adversariaux intentionnellement conçus. Diverses méthodes d'attaque contre les DNN ont été proposées, mais il manque encore une explication théorique des exemples adversariaux. Dans cet article, nous visons à comprendre les exemples adversariaux à partir du processus d'attaque et nous supposons que l'ajout de perturbations aux régions clés/sensibles de l'image pourrait tromper les DNN de classification d'images. Nous proposons une protection par gradient pour vérifier l'hypothèse qui ignore les informations non sensibles lors de la génération d'exemples adversariaux. Plus précisément, nous proposons une méthode de protection par gradient interactive (IGS) qui sélectionne des régions sensibles puis applique une attaque basée sur le gradient. Pour enlever la sélection de région, nous proposons une méthode de protection par gradient adaptatif (AGS) qui ignore automatiquement les gradients non sensibles. Nous menons des expériences approfondies pour évaluer la performance et les résultats corroborent également notre perspective. Avec cette méthode, nous avons remporté la première place au concours d'attaque adversariale non ciblée IJCAI-AAAC 2019.