Interpretation von adversarialen Beispielen im Deep Learning: Eine Übersicht

Die Technologie des Deep Learning wird zunehmend in sicherheitskritischen Szenarien angewendet, hat jedoch kürzlich gezeigt, dass sie anfällig für imperceptible adversariale Störungen ist. Dies wirft eine ernsthafte Besorgnis hinsichtlich der adversarialen Robustheit von auf tiefen neuronalen Netzwerken (DNN) basierenden Anwendungen auf. Folglich wurden verschiedene adversariale Angriffe und Abwehransätze vorgeschlagen. Aktuelle Studien implementieren jedoch verschiedene Arten von Angriffen und Abwehrmaßnahmen mit bestimmten Annahmen. Es fehlt nach wie vor an einem vollständigen theoretischen Verständnis und einer Interpretation adversarialer Beispiele. Anstatt den technischen Fortschritt in adversarialen Angriffen und Abwehrmaßnahmen zu überprüfen, präsentiert dieser Artikel einen Rahmen, der aus drei Perspektiven besteht, um aktuelle Arbeiten zu diskutieren, die sich umfassend mit der theoretischen Erklärung adversarialer Beispiele befassen. In jeder Perspektive werden verschiedene Hypothesen weiter kategorisiert und in mehrere Unterkategorien zusammengefasst und systematisch eingeführt. Soweit wir wissen, ist diese Studie die erste, die sich darauf konzentriert, bestehende Forschungen zu adversarialen Beispielen und ihrer Robustheit aus der Perspektive der Interpretierbarkeit zu untersuchen. Durch die Auswertung der überprüften Literatur charakterisiert diese Umfrage aktuelle Probleme und Herausforderungen, die angegangen werden müssen, und hebt potenzielle zukünftige Forschungsrichtungen hervor, um adversariale Beispiele weiter zu untersuchen.