Resumo A recente adoção de ferramentas de Inteligência Artificial (IA) certificadas para aplicações em saúde renovou o debate sobre sua adoção. A IA explicável, a sub-disciplina que promete tornar os dispositivos de IA mais transparentes e confiáveis, também foi objeto de escrutínio como parte dessa discussão. Alguns especialistas na área de IA médica debatem a confiabilidade das técnicas de IA explicável, expressando preocupações sobre seu uso e inclusão em diretrizes e padrões. Revisando tais críticas, este artigo oferece uma perspectiva equilibrada sobre a utilidade da IA explicável, focando na especificidade das aplicações clínicas de IA e colocando-as no contexto de intervenções em saúde. Contra seus detratores e apesar de preocupações válidas, argumentamos que o programa de pesquisa em IA explicável ainda é central para a interação humano-máquina e, em última instância, uma ferramenta útil contra a perda de controle, um perigo que não pode ser evitado apenas com validação clínica rigorosa.
Cinà et al. (Mon,) estudaram essa questão.