Faktoren, die das Vertrauen von Laien in KI prägen: Eine systematische Schneeball-Übersicht zu Designüberlegungen für erklärbare KI

Hintergrund Vertrauen in Systeme künstlicher Intelligenz (KI) ist entscheidend für eine ethische und effektive Nutzung, insbesondere bei nicht-experten Anwendern. Diese Übersicht zielte darauf ab, Faktoren zu identifizieren, die das Vertrauen beeinflussen, und praktische Überlegungen für das Design erklärbarer KI (XAI) Systeme herauszuarbeiten. Methoden Wir haben die Literatur systematisch nach PRISMA 2020-Richtlinien überprüft und Rückwärts- sowie Vorwärtszitatsen durchsucht. Die Primärsuche erfolgte in Web of Science (WoS), die abschließende Suche wurde im Januar 2025 abgeschlossen. Einschlusskriterien waren peer-reviewte Publikationen, die Vertrauen in KI bei nicht-experten Nutzern und/oder Designüberlegungen für XAI untersuchten. Ausschlusskriterien entfernten Studien, die sich ausschließlich auf Experten oder nicht auf Vertrauen bzw. Erklärbarkeit bezogen. Ergebnisse 35 Studien mit diversen nicht-experten Populationen wurden einbezogen. Mithilfe eines thematischen Syntheseansatzes identifizierten wir 33 vertrauensbezogene Faktoren, gruppiert in persönliche Eigenschaften, soziokulturelle Einflüsse, Design- und Interaktionsmerkmale sowie Systemeigenschaften (z. B. Alter, Emotionen, digitale Kompetenz, soziale Normen, Benutzerfreundlichkeit, Ästhetik, Erklärungstyp, Genauigkeit, Transparenz, regulatorische Konformität). Darüber hinaus wurden 120 Designüberlegungen aus neun Bereichen extrahiert, darunter Art und Form der Erklärung; Nutzererlebnis und Interaktion; Vertrauen, Transparenz und menschliche Aufsicht; Robustheit, Sicherheit und Zuverlässigkeit; Daten, Nachvollziehbarkeit und der KI-Lebenszyklus; Regulierung und Compliance; Ethik, Werte und soziale Verantwortung; Bewertungsmethoden und Metriken; sowie Nutzungskontext und organisatorische Faktoren. Schlussfolgerungen Die Übersicht fasst aufkommende Perspektiven zu KI-Vertrauen und Erklärbarkeit zusammen und identifiziert sechs Bereiche, die weitere Forschung benötigen, um das verantwortungsvolle Design und die Implementierung von XAI-Systemen zu unterstützen. Einschränkungen umfassen heterogene Evaluationspraktiken und inkonsistente Operationalisierung von Vertrauen bei nicht-experten Nutzern, was die Vergleichbarkeit der Studien erschwert und die verantwortungsvolle Implementierung von XAI-Systemen behindert.