FD-CAM: Verbesserung der Treue und Unterscheidbarkeit visueller Erklärungen für CNNs

Die Klassenaktivierungskarte (CAM) wurde umfassend untersucht, um die interne Funktionsweise von konvolutionalen neuronalen Netzen visuell zu erklären. Der Schlüssel der bestehenden CAM-basierten Methoden besteht darin, effektive Gewichte zur Kombination von Aktivierungskarten in der Ziel-Konvolutionsschicht zu berechnen. Bestehende gradienten- und punktespezifische Gewichtungsschemata haben Überlegenheit gezeigt, um entweder die Unterscheidbarkeit oder die Treue der CAM zu gewährleisten, können jedoch normalerweise in beiden Eigenschaften nicht übertreffen. In diesem Papier schlagen wir ein neuartiges CAM-Gewichtungsschema vor, das FD-CAM genannt wird, um sowohl die Treue als auch die Unterscheidbarkeit der CAM-basierten CNN-visuellen Erklärung zu verbessern. Zunächst verbessern wir die Treue und Unterscheidbarkeit der punktespezifischen Gewichte, indem wir eine gruppierte Kanalwechseloperation durchführen. Konkret berechnen wir für jeden Kanal seine Ähnlichkeitsgruppe und schalten die Gruppe von Kanälen gleichzeitig ein oder aus, um Änderungen im Klassenvorhersagepunktwert als Gewichte zu berechnen. Dann kombinieren wir die verbesserten punktespezifischen Gewichte mit den herkömmlichen gradientenbasierten Gewichten, sodass die Unterscheidbarkeit der endgültigen CAM weiter verbessert werden kann. Wir führen umfangreiche Vergleiche mit den etablierten CAM-Algorithmen durch. Die quantitativen und qualitativen Ergebnisse zeigen, dass unser FD-CAM treuere und differenziertere visuelle Erklärungen der CNNs erzeugen kann. Wir führen auch Experimente durch, um die Wirksamkeit des vorgeschlagenen gruppierten Kanalwechsel- und Gewichtungskombinationsschemas zur Verbesserung der Ergebnisse zu überprüfen. Unser Code ist verfügbar unter https://github.com/crishhh1998/FD-CAM.