Spear: Bewertung der adversarial Robustheit von komprimierten neuronalen Modellen

Mit der Entwicklung der Künstlichen Intelligenz können neuronale Modelle, die anfällig für adversarielle Angriffe sind, in kritischen Anwendungen fatale Ergebnisse liefern. Dieses Papier befasst sich hauptsächlich mit der Robustheit der komprimierten neuronalen Modelle gegenüber adversarialen Angriffen. Einige Studien diskutieren die Interaktion zwischen Modellkompression und adversarialem Angriff. Allerdings konzentrieren sie sich auf die Robustheit gegen die traditionellen Angriffe, die für die dichten Modelle entwickelt wurden, und nicht auf die Angriffe, die ausdrücklich für die komprimierten Modelle mit Techniken zur Sparsamkeit und Quantisierung gedacht sind. Komprimierte Modelle haben oft weniger Parameter und kleinere Größen, die resource-limitierten Geräten gegenüber dichten Modellen freundlicher sind, weshalb sie in verschiedenen Edge- und mobilen Geräten weit verbreitet eingesetzt werden. Das Einführen von Sparsamkeit und Quantisierung in neuronale Modelle erhöht jedoch die Angriffsrisiken. Eine spezifische Methode zum adversarialen Angriff (Spear) wird vorgeschlagen, um spezifische adversariale Angriffsmuster zur Bewertung der Robustheit der komprimierten Modelle zu erzeugen. Der Spear-Angriff findet minimale Störungen, um die Angriffsmuster zu erstellen, um die verschiedenen Verhaltensweisen zwischen den komprimierten und dichten Referenzmodellen zu maximieren. Wir zeigen, dass die vorgeschlagene Spear-Angriffstechnik im Allgemeinen auf verschiedene Netzwerke und Aufgaben durch quantitative und Ablationsexperimente angewendet werden kann.