Una perspectiva histórica de la investigación biomédica en IA explicable

La naturaleza de caja negra de la mayoría de los modelos de inteligencia artificial (IA) fomenta el desarrollo de métodos de explicabilidad para generar confianza en el proceso de toma de decisiones de la IA. Estos métodos se pueden clasificar en dos tipos principales: explicaciones post hoc y algoritmos inherentemente interpretables. Nuestro objetivo fue analizar las posibles asociaciones entre COVID-19 y la promoción de la IA explicable (XAI) al frente de la investigación biomédica. Extraímos automáticamente de la base de datos de PubMed estudios de XAI biomédica relacionados con conceptos de causalidad o explicabilidad y etiquetamos manualmente 1,603 artículos con respecto a categorías de XAI. Para comparar las tendencias antes y después de COVID-19, ajustamos un modelo de detección de puntos de cambio y evaluamos cambios significativos en las tasas de publicación. Mostramos que la llegada de COVID-19 a principios de 2020 podría ser el factor determinante detrás de un enfoque incrementado en relación con la XAI, desempeñando un papel crucial en acelerar una tendencia ya en evolución. Finalmente, presentamos una discusión sobre el uso social futuro y el impacto de las tecnologías de XAI y las posibles direcciones futuras para quienes buscan fomentar la confianza clínica con modelos de aprendizaje automático interpretables.