Überprüfung von CAM-basierten tiefen erklärbaren Methoden im Gesundheitswesen

Der Einsatz von künstlicher Intelligenz im Gesundheitssektor wächst ständig. Allerdings sind die meisten KI-Systeme, die auf Deep Learning basieren, von einer Black-Box-Natur, was dazu führt, dass diese Systeme unter einem Mangel an Transparenz und Glaubwürdigkeit leiden. Aufgrund der weit verbreiteten Anwendung medizinischer Bildgebung zu diagnostischen Zwecken verlässt sich die Gesundheitsbranche häufig auf Methoden, die visuelle Erklärungen liefern und die Interpretierbarkeit erhöhen. Bestehende Forschungen haben die Nutzung visueller Erklärungsmethoden im Gesundheitsbereich zusammengefasst und untersucht, und bieten Einführungen in die verwendeten Methoden. Allerdings werden bestehende Reviews häufig für interpretierbare Analysen im medizinischen Bereich verwendet, wobei umfassende Reviews zu Class Activation Mapping (CAM)-Methoden ignoriert werden, da Forscher CAM typischerweise unter dem breiteren Begriff der visuellen Erklärungen kategorisieren, ohne spezifische Anwendungen im Gesundheitswesen zu vertiefen. Daher zielt diese Studie hauptsächlich darauf ab, die spezifischen Anwendungen von CAM-basierten tiefen erklärbaren Methoden in der Gesundheitsindustrie zu analysieren, gemäß dem PICO (Population, Intervention, Comparison, Outcome) Rahmenwerk. Konkret haben wir 45 Artikel für eine systematische Überprüfung und vergleichende Analyse aus drei Datenbanken – PubMed, Science Direct und Web of Science – ausgewählt und anschließend acht fortgeschrittene CAM-basierte Methoden unter Verwendung von fünf Datensätzen verglichen, um bei der Methodenauswahl zu helfen. Schließlich haben wir aktuelle Hotspots und zukünftige Herausforderungen bei der Anwendung von CAM im Gesundheitsbereich zusammengefasst.