Die undefinierbare Definition: Das Black-Box-Problem in der künstlichen Intelligenz im Gesundheitswesen

Das "Black-Box-Problem" ist ein langjähriger Gesprächspunkt in Debatten über künstliche Intelligenz (KI). Dies ist ein bedeutender Spannungspunkt zwischen Ethikern, Programmierern, Kliniken und allen anderen, die an der Entwicklung von KI für Gesundheitsanwendungen arbeiten. Jedoch bleibt die präzise Definition dieser Systeme oft undefiniert, vage, unklar oder wird als standardisiert innerhalb der KI-Kreise angenommen. Dies führt zu Situationen, in denen Personen, die an KI arbeiten, aneinander vorbeireden, und wurde in zahlreichen Debatten zwischen opaken und erklärbaren Systemen angeführt. Dieses Papier schlägt eine kohärente und klare Definition für das Black-Box-Problem vor, um zukünftige Diskussionen über KI im Gesundheitswesen zu unterstützen. Dies wird erreicht, indem verschiedene Definitionen in der Literatur synthetisiert und mehrere Kriterien untersucht werden, die aus diesen Definitionen extrapoliert werden können.