La explicabilidad en medicina en una era de sistemas de apoyo a la decisión clínica basados en IA

La combinación de "Big Data" e Inteligencia Artificial (IA) se promociona frecuentemente por tener el potencial de ofrecer valiosos beneficios para la salud cuando se aplica a la toma de decisiones médicas. Sin embargo, la adopción responsable de sistemas de apoyo a la decisión clínica basados en IA enfrenta varios desafíos tanto a nivel individual como societal. Una de las características que ha generado preocupación particular es el tema de la explicabilidad, ya que, si la forma en que un algoritmo llegó a un resultado particular no es conocida (o conocible) por un médico, esto puede llevar a múltiples desafíos, incluida la incapacidad de evaluar los méritos del resultado. Este problema de "opacidad" ha dado lugar a preguntas sobre si los médicos están justificados en confiar en el resultado algorítmico, con algunos académicos insistiendo en la centralidad de la explicabilidad, mientras que otros no ven razón para exigirle a la IA lo que no se exige a los médicos. Consideramos que hay mérito en ambas visiones, pero encontramos que es necesaria una mayor matización para elucidar la función subyacente de la explicabilidad en la práctica clínica y, por lo tanto, su relevancia en el contexto de la IA para uso clínico. En este documento, exploramos la explicabilidad examinando lo que requiere en la medicina clínica y trazamos una distinción entre la función de la explicabilidad para el paciente actual frente al paciente futuro. Esta distinción tiene implicaciones sobre lo que la explicabilidad requiere a corto y largo plazo. Destacamos el papel de la transparencia en la explicabilidad e identificamos la transparencia semántica como fundamental para la cuestión de la explicabilidad misma. Argumentamos que, en la práctica clínica diaria, la precisión es suficiente como "garantía epistémica" para la toma de decisiones clínicas, y que la razón más convincente para exigir explicabilidad en el sentido de explicación científica o causal es el potencial para mejorar la atención futura al construir un modelo más robusto del mundo. Identificamos el objetivo de la toma de decisiones clínicas como el de proporcionar el mejor resultado posible tan a menudo como sea posible, y encontramos que la precisión es una justificación suficiente para la intervención para el paciente de hoy, siempre que los esfuerzos por descubrir explicaciones científicas sigan mejorando la atención médica para los pacientes futuros.