Über pixelweise Erklärungen für Entscheidungen nicht-linearer Klassifikatoren durch schichtweise Relevanzpropagation

Das Verständnis und die Interpretation von Klassifikationsentscheidungen automatisierter Bildklassifizierungssysteme sind in vielen Anwendungen von hohem Wert, da sie es ermöglichen, die Argumentation des Systems zu überprüfen und dem menschlichen Experten zusätzliche Informationen zu bieten. Obwohl Methoden des maschinellen Lernens sehr erfolgreich eine Vielzahl von Aufgaben lösen, haben sie in den meisten Fällen den Nachteil, als Black Box zu agieren, ohne Informationen darüber bereitzustellen, was sie zu einer bestimmten Entscheidung geführt hat. Diese Arbeit schlägt eine allgemeine Lösung für das Problem des Verständnisses von Klassifikationsentscheidungen durch pixelweise Zerlegung nicht-linearer Klassifikatoren vor. Wir stellen eine Methodik vor, die es ermöglicht, die Beiträge einzelner Pixel zu Vorhersagen für kernelbasierte Klassifikatoren über Bag of Words-Features und für mehrschichtige neuronale Netzwerke zu visualisieren. Diese Pixelbeiträge können als Heatmaps visualisiert werden und stehen einem menschlichen Experten zur Verfügung, der intuitiv nicht nur die Gültigkeit der Klassifikationsentscheidung überprüfen, sondern auch die weitere Analyse auf potenziell interessante Regionen konzentrieren kann. Wir bewerten unsere Methode für Klassifikatoren, die auf PASCAL VOC 2009-Bildern, synthetischen Bilddaten mit geometrischen Formen, dem MNIST-Datensatz handgeschriebener Ziffern und für das vortrainierte ImageNet-Modell, das als Teil des Caffe-Open-Source-Pakets verfügbar ist, trainiert wurden.