Zuverlässige Schätzung von kausalen Effekten mittels prädiktiver Modelle

In den letzten Jahren wurden Maschinenlernalgorithmen in vielen Bereichen aufgrund ihrer Effizienz und Vielseitigkeit weit verbreitet. Die Komplexität prädiktiver Modelle hat jedoch zu einem Mangel an Interpretierbarkeit bei automatisierten Entscheidungsprozessen geführt. Jüngste Arbeiten haben die allgemeine Interpretierbarkeit verbessert, indem sie die Beiträge von Eingangsmerkmalen zu den Vorhersagen eines vortrainierten Modells schätzen. Anhand dieser Verbesserungen streben Praktiker an, kausale Einblicke in die zugrunde liegenden Daten-Generierungsmechanismen zu gewinnen. Zu diesem Zweck haben Arbeiten versucht, kausales Wissen in die Interpretierbarkeit zu integrieren, da nicht-kausale Techniken zu paradoxen Erklärungen führen können. In diesem Papier argumentieren wir, dass jede Frage zu einem kausalen Effekt ihre eigene Begründung erfordert und dass die Abhängigkeit von einem anfänglichen prädiktiven Modell, das auf einer willkürlichen Variablenmenge trainiert wurde, zu Quantifizierungsproblemen führen kann, wenn alle möglichen Effekte geschätzt werden. Als Alternative plädieren wir für eine abfragegesteuerte Methodik, die jede kausale Frage separat behandelt. Vorausgesetzt, die kausale Struktur, die die Variablen miteinander verbindet, ist bekannt, schlagen wir vor, die Werkzeuge der kausalen Inferenz zu verwenden, um einen bestimmten Effekt als Formel zu quantifizieren, die beobachtbare Wahrscheinlichkeiten umfasst. Wir leiten dann Bedingungen für die Auswahl von Variablen ab, um ein prädiktives Modell zu trainieren, das auf die angegebene kausale Frage zugeschnitten ist. Schließlich identifizieren wir geeignete erklärbare KI (XAI) Techniken, um kausale Effekte aus den Modellvorhersagen zu schätzen. Darüber hinaus führen wir eine neuartige Methode zur Schätzung direkter Effekte durch Intervention in kausale Mechanismen ein.