Inteligencia artificial médica y el problema de la caja negra: una visión basada en el principio ético de "no hacer daño"

Una preocupación sobre la aplicación de la inteligencia artificial (IA) médica se refiere a la característica de "caja negra" que solo puede ser vista en términos de sus entradas y salidas, sin forma de entender el algoritmo de la IA. Esto es problemático porque los pacientes, los médicos e incluso los diseñadores no comprenden por qué o cómo se produce una recomendación de tratamiento por las tecnologías de IA. Una opinión sostiene que la preocupación por la medicina de caja negra es irracional porque los sistemas de IA superan a los médicos humanos en la identificación de la enfermedad. Además, bajo el modelo de IA médica-médico-paciente, el médico puede asumir la responsabilidad de interpretar el diagnóstico de la IA médica. En este artículo, nos enfocamos en el posible daño causado por la característica de inexplicabilidad de la IA médica y tratamos de mostrar que dicho daño potencial es subestimado. Buscaremos contribuir a la literatura desde tres aspectos. Primero, apelaremos a un experimento mental para mostrar que, aunque los sistemas de IA médica tienen un mejor desempeño en precisión, el daño causado por los diagnósticos erróneos de la IA médica puede ser más grave que el causado por los diagnósticos erróneos de los médicos humanos en algunos casos. Segundo, en la medicina centrada en el paciente, los médicos están obligados a proporcionar información adecuada a sus pacientes en la toma de decisiones médicas. Sin embargo, la característica de inexplicabilidad de los sistemas de IA médica limitaría la autonomía del paciente. Por último, intentamos ilustrar las cargas psicológicas y financieras que pueden ser causadas por la característica de inexplicabilidad de los sistemas de IA médica, que parecen ser ignoradas por las discusiones éticas previas.