Axiom-basierte Grad-CAM: Auf dem Weg zu genauer Visualisierung und Erklärung von CNNs

Um ein besseres Verständnis und eine bessere Nutzung von Convolutional Neural Networks (CNNs) zu haben, hat die Visualisierung und Interpretation von CNNs in den letzten Jahren zunehmende Aufmerksamkeit erhalten. Insbesondere wurden mehrere Class Activation Mapping (CAM)-Methoden vorgeschlagen, um die Verbindung zwischen der Entscheidung des CNN und den Bildregionen zu entdecken. Trotz der angemessenen Visualisierung ist der Mangel an klarer und ausreichender theoretischer Unterstützung die Hauptbeschränkung dieser Methoden. In diesem Papier führen wir zwei Axiome - Erhaltung und Empfindlichkeit - in das Visualisierungsparadigma der CAM-Methoden ein. Gleichzeitig wird ein dedizierter Axiom-basierter Grad-CAM (XGrad-CAM) vorgeschlagen, um diese Axiome so gut wie möglich zu erfüllen. Experimente zeigen, dass XGrad-CAM eine verbesserte Version von Grad-CAM in Bezug auf Erhaltung und Empfindlichkeit ist. Es kann eine bessere Visualisierungsleistung als Grad-CAM erzielen und ist im Vergleich zu Grad-CAM++ und Ablation-CAM klassen-diskriminierend und einfach zu implementieren. Der Code ist verfügbar unter https://github.com/Fu0511/XGrad-CAM.