iSee: Fortschritte bei Multi-Shot Erklärbarer KI durch fallbasierte Empfehlungen

Erklärbare KI (XAI) kann das Vertrauen und die Zufriedenheit der Nutzer in KI-unterstützte Entscheidungsprozesse erheblich verbessern. Jüngste Erkenntnisse deuten darauf hin, dass ein einzelner Erklärer möglicherweise nicht den unterschiedlichen Bedürfnissen mehrerer Nutzer in einem KI-System gerecht wird; tatsächlich benötigen selbst einzelne Nutzer möglicherweise mehrere Erklärungen. Dies hebt die Notwendigkeit eines "Multi-Shot"-Ansatzes hervor, der eine Kombination von Erklärern verwendet, um das zu bilden, was wir als "Erklärungstrategie" einführen. Abgestimmt auf einen bestimmten Nutzer oder eine Nutzergruppe beschreibt eine "Erklärungserfahrung" die Interaktionen mit personalisierten Strategien, die darauf abzielen, deren KI-Entscheidungsprozesse zu verbessern. Die iSee-Plattform ist darauf ausgelegt, die intelligente Weitergabe und Wiederverwendung von Erklärungserfahrungen zu fördern, indem fallbasiertes Schließen genutzt wird, um bewährte Praktiken in der XAI voranzubringen. Die Plattform bietet Werkzeuge, die es Design-Nutzern von KI-Systemen ermöglichen, die am besten geeignete Erklärungstrategie für ihr KI-System zu entwerfen und iterativ zu überarbeiten, um die Bedürfnisse der Endnutzer zu erfüllen. Sämtliches Wissen, das innerhalb der iSee-Plattform generiert wird, ist durch die iSee-Ontologie zur Interoperabilität formalisiert. Wir verwenden ein summatives Mixed-Methods-Studienprotokoll, um die Benutzerfreundlichkeit und den Nutzen der iSee-Plattform mit sechs Design-Nutzern mit unterschiedlichen Kenntnissen in KI und XAI zu bewerten. Unsere Ergebnisse bestätigen, dass die iSee-Plattform effektiv auf Anwendungen verallgemeinert und ihr Potenzial zur Förderung der Einführung von XAI-Best-Practices besitzt.