Key points are not available for this paper at this time.
Der dramatische Erfolg im maschinellen Lernen hat zu einer neuen Welle von KI-Anwendungen geführt (zum Beispiel Transport, Sicherheit, Medizin, Finanzen, Verteidigung), die enorme Vorteile bieten, aber ihre Entscheidungen und Handlungen menschlichen Benutzern nicht erklären können. DARPA's erklärbares künstliches Intelligenzprogramm (XAI) strebt an, KI-Systeme zu schaffen, deren erlernte Modelle und Entscheidungen von Endbenutzern verstanden und angemessen vertraut werden können. Zur Verwirklichung dieses Ziels sind Methoden erforderlich, um erklärbarere Modelle zu lernen, effektive Erklärungsoberflächen zu gestalten und die psychologischen Anforderungen für effektive Erklärungen zu verstehen. Die XAI-Entwicklungsteams gehen die ersten beiden Herausforderungen an, indem sie ML-Techniken entwickeln und Prinzipien, Strategien sowie Mensch-Computer-Interaktionstechniken zur Erstellung effektiver Erklärungen entwickeln. Ein weiteres XAI-Team befasst sich mit der dritten Herausforderung, indem es psychologische Theorien zur Erklärung zusammenfasst, erweitert und anwendet, um dem XAI-Bewerter zu helfen, einen geeigneten Evaluierungsrahmen zu definieren, den die Entwicklerteams verwenden werden, um ihre Systeme zu testen. Die XAI-Teams haben das erste Jahr dieses vierjährigen Programms im Mai 2018 abgeschlossen. In einer Reihe fortlaufender Bewertungen prüfen die Entwicklerteams, wie gut die Erklärungen ihrer XAM-Systeme das Benutzerverständnis, das Benutzervertrauen und die Benutzeraufgabenleistung verbessern.
Gunning et al. (Sat.) haben diese Frage untersucht.