Bewertung von XAI-Systemen: Eine Übersicht über menschenzentrierte und computerzentrierte Methoden

Das Fehlen von Transparenz leistungsstarker Machine Learning-Systeme, gepaart mit ihrem Anstieg an Beliebtheit im letzten Jahrzehnt, führte zur Entstehung des Bereichs der erklärbaren künstlichen Intelligenz (XAI). Statt sich ausschließlich auf die Erlangung hochleistungsfähiger Modelle zu konzentrieren, entwickeln Forscher auch Erklärungstechniken, die helfen, das Systemverständnis für ein bestimmtes Ergebnis zu verbessern. Ein erklärbares System kann aus verschiedenen Perspektiven entworfen, entwickelt und bewertet werden, was es Forschern aus unterschiedlichen Disziplinen ermöglicht, zu diesem Thema zusammenzuarbeiten. Allerdings schafft die multidisziplinäre Natur von XAI-Systemen neue Herausforderungen für die Verdichtung und Strukturierung adäquater Methodologien zur Gestaltung und Bewertung solcher Systeme. Dieses Papier präsentiert eine Umfrage zu menschenzentrierten und computerzentrierten Methoden zur Bewertung von XAI-Systemen. Wir schlagen eine neue Taxonomie vor, um XAI-Bewertungstechniken klarer und intuitiver zu kategorisieren. Diese Kategorisierung sammelt Wissen aus verschiedenen Disziplinen und organisiert die Bewertungstechniken gemäß einer Reihe von Kategorien, die wichtige Eigenschaften von XAI-Systemen repräsentieren. Mögliche Wege, wie die vorgeschlagene Taxonomie in der Gestaltung und Bewertung von XAI-Systemen verwendet werden kann, werden ebenfalls diskutiert, zusammen mit einigen abschließenden Bemerkungen und zukünftigen Forschungsrichtungen.