CoGS: Kausalitätsbeschränkte kontrafaktische Erklärungen mit zielgerichtetem ASP

Maschinenlernmodelle werden zunehmend in Bereichen wie Kreditgenehmigungen und Einstellungen eingesetzt, doch sie funktionieren oft als Black Box und verschleiern ihre Entscheidungsprozesse. Transparenz ist entscheidend, und Einzelpersonen benötigen Erklärungen, um Entscheidungen zu verstehen, insbesondere solche, die vom Benutzer nicht gewünscht sind. Ethische und rechtliche Überlegungen erfordern, dass die Einzelnen über Änderungen der Eingabewertattribute (Merkmale) informiert werden, die zu einem gewünschten Ergebnis für den Benutzer führen könnten. Unsere Arbeit zielt darauf ab, kontrafaktische Erklärungen zu generieren, indem kausale Abhängigkeiten zwischen den Merkmalen berücksichtigt werden. Wir präsentieren das CoGS (Kontrafaktische Generierung mit s(CASP))-Framework, das das zielgerichtete Answer Set Programming-System s(CASP) nutzt, um Kontrafaktoren aus regelbasierten Maschinenlernmodellen zu generieren, insbesondere dem FOLD-SE-Algorithmus. CoGS berechnet realistische und kausal konsistente Änderungen der Attributwerte unter Berücksichtigung kausaler Abhängigkeiten zwischen ihnen. Es findet einen Weg von einem unerwünschten Ergebnis zu einem gewünschten unter Verwendung von Kontrafakten. Wir präsentieren Details zum CoGS-Framework sowie dessen Bewertung.