Ursachbarkeit und Erklärbarkeit von künstlicher Intelligenz in der Medizin

Erklärbare künstliche Intelligenz (KI) findet in der Medizin großes Interesse. Technisch gesehen ist das Problem der Erklärbarkeit so alt wie die KI selbst, und klassische KI stellte nachvollziehbare Ansätze dar. Ihre Schwäche lag jedoch im Umgang mit den Unsicherheiten der realen Welt. Durch die Einführung probabilistischer Lernansätze wurden die Anwendungen zunehmend erfolgreich, aber auch zunehmend undurchsichtig. Erklärbare KI befasst sich mit der Implementierung von Transparenz und Nachvollziehbarkeit statistischer Black-Box-Methoden des maschinellen Lernens, insbesondere im Bereich des Deep Learning (DL). Wir argumentieren, dass es notwendig ist, über die erklärbare KI hinauszugehen. Um ein Niveau der erklärbaren Medizin zu erreichen, benötigen wir Ursachbarkeit. In ähnlicher Weise, wie die Benutzerfreundlichkeit Messungen für die Qualität der Nutzung umfasst, umfasst die Ursachbarkeit Messungen für die Qualität der Erklärungen. In diesem Artikel geben wir einige notwendige Definitionen, um zwischen Erklärbarkeit und Ursachbarkeit zu unterscheiden, sowie einen Anwendungsfall der DL-Interpretation und der menschlichen Erklärung in der Histopathologie. Der Hauptbeitrag dieses Artikels ist das Konzept der Ursachbarkeit, das von der Erklärbarkeit unterschieden wird, da die Ursachbarkeit eine Eigenschaft einer Person ist, während die Erklärbarkeit eine Eigenschaft eines Systems ist. Dieser Artikel ist kategorisiert unter: Grundlegende Konzepte von Daten und Wissen > Menschzentrierung und Benutzerinteraktion.