Un marco para la interpretabilidad en el aprendizaje automático para la imagen médica

La interpretabilidad de los modelos de aprendizaje automático en la imagen médica (MLMI) es una dirección de investigación importante. Sin embargo, hay una sensación general de confusión en torno a lo que significa la interpretabilidad. ¿Por qué surge la necesidad de interpretabilidad en MLMI? ¿Qué objetivos se busca realmente abordar cuando se necesita interpretabilidad? Para responder a estas preguntas, identificamos la necesidad de formalizar los objetivos y elementos de la interpretabilidad en MLMI. Al razonar sobre tareas y objetivos del mundo real comunes tanto en el análisis de imágenes médicas como en su intersección con el aprendizaje automático, identificamos cinco elementos clave de la interpretabilidad: localización, reconocibilidad visual, atribución física, transparencia del modelo y capacidad de acción. A partir de esto, llegamos a un marco para la interpretabilidad en MLMI, que sirve como una guía paso a paso para abordar la interpretabilidad en este contexto. En general, este documento formaliza las necesidades de interpretabilidad en el contexto de la imagen médica, y nuestra perspectiva aplicada aclara los objetivos y consideraciones específicas de MLMI para guiar el diseño de métodos y mejorar el uso en el mundo real. Nuestro objetivo es proporcionar información práctica y didáctica para diseñadores de modelos y profesionales, inspirar a desarrolladores de modelos en el campo de la imagen médica a razonar más profundamente sobre lo que la interpretabilidad está logrando, y sugerir direcciones futuras para la investigación sobre interpretabilidad.