Visuelle Interpretierbarkeit für Deep Learning: Eine Umfrage

Dieses Papier überprüft aktuelle Studien zum Verständnis von neuronalen Netzwerkdarstellungen und dem Lernen von neuronalen Netzwerken mit interpretierbaren/entflechten Mittelschichtdarstellungen. Obwohl tiefe neuronale Netzwerke in verschiedenen Aufgaben überlegene Leistungen gezeigt haben, ist die Interpretierbarkeit immer die Achillesferse von tiefen neuronalen Netzwerken. Derzeit erreichen tiefe neuronale Netzwerke eine hohe Unterscheidungskraft auf Kosten einer geringen Interpretierbarkeit ihrer Black-Box-Darstellungen. Wir glauben, dass eine hohe Modellinterpretierbarkeit den Menschen helfen kann, mehrere Engpässe des Deep Learning zu überwinden, z. B. Lernen aus wenigen Annotationen, Lernen durch Mensch-Computer-Kommunikation auf semantischer Ebene und semantisches Debuggen von Netzwerkdarstellungen. Wir konzentrieren uns auf convolutionale neuronale Netzwerke (CNNs) und überprüfen die Visualisierung von CNN-Darstellungen, Methoden zur Diagnose von Darstellungen vortrainierter CNNs, Ansätze zur Entflechtung vortrainierter CNN-Darstellungen, das Lernen von CNNs mit entflechten Darstellungen und das Lernen von Mitte zu Ende basierend auf der Modellinterpretierbarkeit. Schließlich diskutieren wir potenzielle Trends in der erklärbaren künstlichen Intelligenz.