Bewertung der Kommunikationslücke zwischen KI-Modellen und Gesundheitsfachleuten: Erklärbarkeit, Nutzen und Vertrauen in KI-gestützte klinische Entscheidungsfindung

Dieses Papier trägt mit einem pragmatischen Bewertungsrahmen für erklärbare Machine-Learning-(ML)-Modelle zur klinischen Entscheidungsunterstützung bei. Die Studie zeigte eine nuanciertere Rolle für ML-Erklärungsmodelle, wenn diese pragmatisch im klinischen Kontext eingebettet sind. Trotz der allgemeinen positiven Einstellung der Gesundheitsfachleute (HCPs) gegenüber Erklärungen als Sicherheits- und Vertrauensmechanismus gab es bei einer signifikanten Anzahl von Teilnehmenden negative Effekte, die mit Bestätigungsfehlern verbunden waren, was zu einer übermäßigen Abhängigkeit vom Modell und einem erhöhten Aufwand für die Interaktion mit dem Modell führte. Darüber hinaus zeigten die standardmäßigen Erklärungsmodelle, was einer ihrer Hauptfunktionen widerspricht, eine begrenzte Fähigkeit, ein kritisches Verständnis der Einschränkungen des Modells zu unterstützen. Wir fanden jedoch neue signifikante positive Effekte, die die Rolle von Erklärungen im klinischen Kontext neu positionieren: Dazu gehören die Reduktion von Automatisierungsfehlern, die Ansprache ambivalenter klinischer Fälle (Fälle, bei denen die HCPs sich über ihre Entscheidung nicht sicher waren) und die Unterstützung weniger erfahrener HCPs beim Erwerb neuen Fachwissens.