GANterfactual—Gegenfaktische Erklärungen für medizinische Laien mit Hilfe von Generative Adversarial Learning

Mit dem fortlaufenden Anstieg des maschinellen Lernens wird der Bedarf an Methoden zur Erklärung von Entscheidungen, die von künstlichen Intelligenzsystemen getroffen werden, zu einem immer wichtigeren Thema. Besonders bei Bildklassifizierungsaufgaben verlassen sich viele moderne Werkzeuge zur Erklärung solcher Klassifikatoren auf die visuelle Hervorhebung wichtiger Bereiche der Eingabedaten. Im Gegensatz dazu versuchen gegenfaktische Erklärungssysteme, ein gegenfaktisches Denken zu ermöglichen, indem sie das Eingabebild so modifizieren, dass der Klassifikator eine andere Vorhersage gemacht hätte. Dadurch erhalten die Nutzer gegenfaktischer Erklärungssysteme eine völlig andere Art von erklärenden Informationen. Allerdings sind Methoden zur Generierung realistischer gegenfaktischer Erklärungen für Bildklassifikatoren nach wie vor selten. Besonders in medizinischen Kontexten, in denen relevante Informationen oft aus texturalen und strukturellen Informationen bestehen, haben qualitativ hochwertige gegenfaktische Bilder das Potenzial, bedeutungsvolle Einblicke in Entscheidungsprozesse zu geben. In dieser Arbeit präsentieren wir GANterfactual, einen Ansatz zur Generierung solcher gegenfaktischen Bild-Erklärungen basierend auf adversarialen Bild-zu-Bild-Übersetzungstechniken. Zusätzlich führen wir eine Nutzerstudie durch, um unseren Ansatz in einem exemplarischen medizinischen Anwendungsfall zu bewerten. Unsere Ergebnisse zeigen, dass in dem gewählten medizinischen Anwendungsfall gegenfaktische Erklärungen zu signifikant besseren Ergebnissen in Bezug auf mentale Modelle, Erklärungszufriedenheit, Vertrauen, Emotionen und Selbstwirksamkeit führen als zwei modernste Systeme, die mit Salienz-Karten arbeiten, nämlich LIME und LRP.