Hacia explicaciones visuales robustas para redes neuronales convolucionales profundas con perturbaciones por peso

Explicar los mecanismos complicados que subyacen a las capacidades de clasificación de imágenes de los modelos de Redes Neuronales Convolucionales profundas (CNN) continúa planteando grandes desafíos en el campo de la visión por computadora. Para abordar esta preocupación, se han diseñado numerosos métodos de interpretabilidad, destinados a clarificar el proceso de clasificación de imágenes. Estos métodos incluyen enfoques como mapas de sensibilidad, que implican calcular los gradientes de las salidas de clase con respecto a las imágenes de entrada, y técnicas como el mapeo de activación de clase (CAM). Además, la incorporación de ruido en las imágenes de entrada ha surgido como una estrategia efectiva para aumentar la calidad de la visualización y eliminar el ruido. En este artículo, proponemos dos contribuciones clave: la introducción de un nuevo enfoque que inyecta ruido en los pesos de la red para mejorar la visualización, que implica actualizaciones de gradientes de imagen y cálculos de gradientes promedio; y un nuevo indicador para evaluar la interpretabilidad - el centro de gravedad, y se realizaron experimentos exhaustivos en múltiples conjuntos de datos y diferentes modelos de redes neuronales profundas. En las secciones experimentales subsiguientes, demostramos que nuestro método logra una calidad de visualización superior y puede combinarse con otros métodos de interpretabilidad para mejorar su rendimiento.