Zu verstehen, warum ein Modell eine bestimmte Vorhersage trifft, kann in vielen Anwendungen ebenso entscheidend sein wie die Genauigkeit der Vorhersage. Die höchste Genauigkeit für große moderne Datensätze wird jedoch häufig durch komplexe Modelle erreicht, die selbst Experten schwer zu interpretieren finden, wie Ensemble- oder Deep-Learning-Modelle, was zu einem Spannungsfeld zwischen Genauigkeit und Interpretierbarkeit führt. In Reaktion darauf wurden kürzlich verschiedene Methoden vorgeschlagen, um Benutzern zu helfen, die Vorhersagen komplexer Modelle zu interpretieren, doch oft bleibt unklar, wie diese Methoden miteinander in Beziehung stehen und wann eine Methode einer anderen vorzuziehen ist. Um dieses Problem zu lösen, präsentieren wir ein einheitliches Framework zur Interpretation von Vorhersagen, SHAP (SHapley Additive exPlanations). SHAP weist jeder Funktion einen Wichtigkeitswert für eine bestimmte Vorhersage zu. Zu seinen neuartigen Komponenten gehören: (1) die Identifizierung einer neuen Klasse additiver Maßstäbe für die Funktionalität und (2) theoretische Ergebnisse, die zeigen, dass es innerhalb dieser Klasse eine einzigartige Lösung mit einer Reihe von wünschenswerten Eigenschaften gibt. Die neue Klasse vereint sechs bestehende Methoden, bemerkenswert, weil mehrere kürzlich entwickelte Methoden in dieser Klasse die vorgeschlagenen wünschenswerten Eigenschaften nicht erfüllen. Basierend auf den Erkenntnissen aus dieser Vereinigung präsentieren wir neue Methoden, die eine verbesserte Rechenleistung und/oder eine bessere Konsistenz mit menschlicher Intuition zeigen als frühere Ansätze.
Lundberg et al. (Mon,) haben diese Frage untersucht.