Abrindo a caixa preta do aprendizado de máquina em radiologia: a proximidade de casos anotados pode ser um caminho?

Sistemas de aprendizado de máquina (ML) e aprendizado profundo (DL), atualmente empregados na análise de imagem médica, são modelos baseados em dados frequentemente considerados como caixas pretas. No entanto, uma maior transparência é necessária para traduzir a tomada de decisão automatizada na prática clínica. Para esse fim, propomos uma estratégia para abrir a caixa preta, apresentando ao radiologista os casos anotados (ACs) próximos ao caso atual (CC), tornando a lógica de decisão e a incerteza mais explícitas. Os ACs, usados para treinamento, validação e teste em métodos supervisionados e para validação e teste nos não supervisionados, poderiam ser fornecidos como suporte da ferramenta ML/DL. Se o CC estiver localizado em um espaço de classificação e ACs proximais forem selecionados por métricas apropriadas, estes poderiam ser mostrados em sua forma original de imagens, enriquecidas com anotações para os radiologistas, permitindo assim a interpretação imediata da classificação do CC. Além disso, a densidade de ACs na vizinhança do CC, seus mapas de saliência de imagem, confiança na classificação, demografia e informações clínicas estariam disponíveis para os radiologistas. Assim, informações criptografadas poderiam ser transmitidas aos radiologistas, que saberão a saída do modelo (o que) e as regiões salientes da imagem (onde) enriquecidas por ACs, fornecendo a lógica de classificação (por que). Em resumo, se um classificador é baseado em dados, vamos fazer sua interpretação também baseada em dados.