Métodos para interpretar e entender redes neurais profundas

Este artigo fornece um ponto de entrada para o problema de interpretar um modelo de rede neural profunda e explicar suas previsões. É baseado em um tutorial apresentado no ICASSP 2017. Como um artigo tutorial, o conjunto de métodos cobertos aqui não é exaustivo, mas suficientemente representativo para discutir uma série de questões em interpretabilidade, desafios técnicos e possíveis aplicações. A segunda parte do tutorial foca na técnica recentemente proposta de propagação da relevância em camadas (LRP), para a qual fornecemos teoria, recomendações e truques, para fazer o uso mais eficiente dela em dados reais.