Attaque de frontière en boîte noire basée sur l'optimisation de gradient

Les réseaux de neurones profonds ont gagné des applications étendues en vision par ordinateur, démontrant un succès significatif dans des tâches de recherche fondamentales telles que la classification d'images. Cependant, la robustesse de ces réseaux fait face à de graves défis en présence d'attaques adversariales. Dans des scénarios du monde réel, traiter des attaques à étiquettes dures nécessite souvent l'exécution de dizaines de milliers de requêtes. Pour lutter contre ces défis, l'Attaque de frontière en boîte noire exploitant l'optimisation de gradient (GOBA) a été introduite. Cette méthode emploie une stratégie de recherche binaire pour acquérir un exemple adversarial initial avec une perturbation significative. L'algorithme de Monte Carlo est utilisé pour estimer le gradient de l'échantillon, facilitant un mouvement itératif le long du gradient estimé et dans la direction de l'étiquette malveillante. De plus, des vecteurs de requête positivement corrélés avec le gradient sont extraits pour construire un espace d'échantillonnage de taille optimale, améliorant ainsi l'efficacité de l'algorithme de Monte Carlo. Des évaluations expérimentales ont été menées en utilisant les méthodologies d'attaque HSJA, QEBA et NLBA sur les ensembles de données ImageNet, CelebA et MNIST, respectivement. Les résultats indiquent que, sous la contrainte de 3 k temps de requête, le GOBA, comparé à d'autres méthodes, peut, en moyenne, réduire la perturbation (distance L2) de 55,74 % et simultanément augmenter le taux de succès de l'attaque de 13,78 % en moyenne.