Cuando el tiempo es esencial: reconsideración ética de la XAI en entornos sensibles al tiempo

El objetivo de los sistemas de inteligencia artificial explicable diseñados para el apoyo a la decisión clínica (XAI-CDSS) es mejorar el rendimiento diagnóstico, la confianza y la fiabilidad de los médicos a través de la implementación de métodos interpretables, proporcionando así una mejor posición epistémica, una base sólida para la reflexión crítica y credibilidad en tiempos de dependencia tecnológica elevada. Sin embargo, estudios recientes han revelado deficiencias en el logro de estos objetivos, cuestionando el respaldo generalizado de la XAI por profesionales médicos, éticos y responsables de políticas. Basado en un caso de uso quirúrgico, este artículo desafía las llamadas a generalizar la XAI-CDSS y enfatiza la importancia de los entornos clínicos sensibles al tiempo que a menudo impiden una consideración adecuada de las explicaciones del sistema. Por lo tanto, la XAI-CDSS puede no ser capaz de cumplir con las expectativas de aumentar la toma de decisiones clínicas en circunstancias específicas donde el tiempo es esencial. Este artículo, mediante la aplicación de una metodología ética de equilibrio principista, destaca varias falacias asociadas con el despliegue de la XAI en situaciones clínicas sensibles al tiempo y recomienda el respaldo de la XAI solo donde la evidencia científica o las evaluaciones de los interesados no contradigan tal despliegue en configuraciones específicas.