A inteligência artificial (IA) está sendo cada vez mais utilizada na saúde, mas frequentemente carece da confiança de clínicos e pacientes. A IA Explicável (XAI) tem como objetivo esclarecer previsões e tornar as decisões da IA mais transparentes, interpretáveis e clinicamente acionáveis. No entanto, os métodos atuais são insuficientes. Nesta Perspectiva, argumentamos que, para que a XAI seja clinicamente útil em imagem médica e para construir confiança com os clínicos, ela deve satisfazer três princípios orientadores: robustez técnica, adaptação aos usuários finais e alinhamento das explicações com a tarefa clínica específica. Introduzimos um framework conceitual, incorporando esses princípios, para guiar o design e a implementação futura da XAI com base em expectativas e responsabilidades compartilhadas entre desenvolvedores, fornecedores e instituições de saúde. Ao garantir robustez, personalizar saídas e alinhar explicações com casos de uso, a XAI pode ir além de abordagens padronizadas para um design centrado na tarefa e no usuário, para apoiar a adoção eficaz e confiável da IA na saúde.
Savage et al. (2026) estudaram essa questão.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: