Los puntos clave no están disponibles para este artículo en este momento.
Se han propuesto visualizaciones basadas en retropropagación para interpretar redes neuronales convolucionales (CNNs), sin embargo falta una teoría que justifique sus comportamientos: La retropropagación guiada (GBP) y la red de deconvolución (DeconvNet) generan visualizaciones más interpretables para los humanos, pero menos sensibles a las clases en comparación con el mapa de saliencia. Motivados por esto, desarrollamos una explicación teórica que revela que GBP y DeconvNet están haciendo esencialmente una recuperación (parcial) de imagen que no está relacionada con las decisiones de la red. Específicamente, nuestro análisis muestra que la ReLU hacia atrás introducida por GBP y DeconvNet, y las conexiones locales en las CNNs son las dos principales causas de visualizaciones atractivas. Se proporcionan experimentos extensivos que respaldan el análisis teórico.
Nie et al. (Vie,) estudiaron esta cuestión.