Un nuevo método para visualizar redes neuronales profundas

Presentamos un método para visualizar la respuesta de una red neuronal profunda a una entrada específica. Por ejemplo, para datos de imagen, nuestro método resaltará áreas que proporcionen evidencia a favor y en contra de elegir una cierta clase. El método supera varias limitaciones de métodos anteriores y proporciona una gran visión adicional sobre el proceso de toma de decisiones de las redes convolucionales, lo cual es importante tanto para mejorar modelos como para acelerar la adopción de tales métodos en, por ejemplo, la medicina. En experimentos con datos de ImageNet, ilustramos cómo funciona el método y cómo puede aplicarse de diferentes maneras para comprender las redes neuronales profundas.