NeuronInspect: Erkennung von Hintertüren in neuronalen Netzwerken durch Ausgabenerklärungen

Tiefe neuronale Netzwerke haben in verschiedenen Aufgaben eine Spitzenleistung erreicht. Allerdings erleichtert der Mangel an Interpretierbarkeit und Transparenz böswilligen Angreifern das Einschleusen von Trojaner-Hintertüren in die neuronalen Netzwerke, was dazu führt, dass das Modell abnormal reagiert, wenn eine Hintertürprobe mit einem bestimmten Trigger eingegeben wird. In diesem Papier schlagen wir NeuronInspect vor, ein Framework zur Erkennung von Trojaner-Hintertüren in tiefen neuronalen Netzwerken mithilfe von Ausgabenerklärungstechniken. NeuronInspect identifiziert zunächst die Existenz von Hintertürangriffszielen, indem es die Erklärungshitze-karte der Ausgabeschicht generiert. Wir beobachten, dass die erzeugten Wärmebilder von sauberen und kompromittierten Modellen unterschiedliche Eigenschaften aufweisen. Daher extrahieren wir Merkmale, die die Attribute von Erklärungen aus einem angegriffenen Modell messen, nämlich: spärlich, glatt und beständig. Wir kombinieren diese Merkmale und verwenden Anomalieerkennung, um die Ausreißer zu identifizieren, die die Menge der Angriffsziele darstellen. Wir demonstrieren die Wirksamkeit und Effizienz von NeuronInspect anhand des MNIST-Ziffernerkennungsdatensatzes und des GTSRB-Verkehrszeichenerkennungsdatensatzes. Wir bewerten NeuronInspect umfassend in verschiedenen Angriffszenarien und beweisen eine bessere Robustheit und Effektivität im Vergleich zu den fortschrittlichsten Trojaner-Hintertürerkennungstechniken Neural Cleanse bei großem Abstand.