Vergleich von Merkmalsbedeutungsmaßnahmen als Erklärungen für Klassifikationsmodelle

Zusammenfassung Erklärbare künstliche Intelligenz ist eine aufkommende Forschungsrichtung, die dem Benutzer oder Entwickler von maschinellen Lernmodellen hilft, zu verstehen, warum Modelle sich so verhalten, wie sie es tun. Die beliebteste Erklärungstechnik ist die Merkmalsbedeutung. Es gibt jedoch mehrere verschiedene Ansätze, wie Merkmalsbedeutungen gemessen werden, insbesondere global und lokal. In dieser Studie vergleichen wir verschiedene Merkmalsbedeutungsmaßnahmen mithilfe sowohl linearer (logistische Regression mit L1-Bestrafung) als auch nicht-linearer (Random Forest) Methoden und lokal interpretierbarer modellunabhängiger Erklärungen basierend auf diesen. Diese Methoden wurden auf zwei Datensätze aus dem medizinischen Bereich angewendet, den öffentlich verfügbaren Brustkrebsdaten aus dem UCI-Archiv und einem kürzlich gesammelten Datensatz über Laufverletzungen. Unsere Ergebnisse zeigen, dass die wichtigsten Merkmale je nach Technik variieren. Wir argumentieren, dass eine Kombination mehrerer Erklärungstechniken zuverlässigere und vertrauenswürdigere Ergebnisse liefern könnte. Insbesondere sollten lokale Erklärungen in den kritischsten Fällen wie falsch negativen Ergebnissen verwendet werden.