Neueste Anwendungen von erklärbarer KI (XAI): Eine systematische Literaturübersicht

Diese systematische Literaturübersicht verwendet die Methodik der Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA), um aktuelle Anwendungen erklärbarer KI (XAI) der letzten drei Jahre zu untersuchen. Aus einem anfänglichen Pool von 664 Artikeln, die über die Web of Science-Datenbank identifiziert wurden, erfüllten 512 begutachtete Fachartikel die Einschlusskriterien – nämlich, dass es sich um aktuelle, qualitativ hochwertige Artikel zur Anwendung von XAI handelt, die in Englisch veröffentlicht wurden – und wurden detailliert analysiert. Sowohl qualitative als auch quantitative statistische Techniken wurden verwendet, um die identifizierten Artikel zu analysieren: qualitativ, indem die Merkmale der eingeschlossenen Studien auf der Grundlage vordefinierter Codes zusammengefasst wurden, und quantitativ durch statistische Analysen der Daten. Diese Artikel wurden nach ihren Anwendungsbereichen, Techniken und Evaluierungsmethoden kategorisiert. Gesundheitsbezogene Anwendungen waren besonders verbreitet, mit einem starken Fokus auf Krebsdiagnose, COVID-19-Management und medizinische Bildgebung. Weitere bedeutende Anwendungsbereiche umfassten Umwelt- und Landwirtschaftsmanagement, industrielle Optimierung, Cybersicherheit, Finanzen, Transport und Unterhaltung. Darüber hinaus heben aufkommende Anwendungen in Recht, Bildung und sozialer Pflege die wachsende Wirkung von XAI hervor. Die Überprüfung zeigt eine vorherrschende Nutzung lokaler Erklärungsverfahren, insbesondere SHAP und LIME, wobei SHAP aufgrund seiner Stabilität und mathematischen Garantien bevorzugt wird. Es wurde jedoch eine kritische Lücke in der Bewertung der XAI-Ergebnisse identifiziert, da die meisten Studien auf anekdotischen Beweisen oder Expertenmeinungen beruhen, statt auf robusten quantitativen Metriken. Dies unterstreicht den dringenden Bedarf an standardisierten Evaluierungsrahmen, um die Zuverlässigkeit und Effektivität von XAI-Anwendungen sicherzustellen. Zukünftige Forschungen sollten auf die Entwicklung umfassender Bewertungsstandards und die Verbesserung der Interpretierbarkeit und Stabilität von Erklärungen abzielen. Diese Fortschritte sind entscheidend, um den unterschiedlichen Anforderungen verschiedener Anwendungsbereiche gerecht zu werden und gleichzeitig Vertrauen und Transparenz in KI-Systeme zu gewährleisten.