Explicaciones de orden superior de las redes neuronales gráficas a través de recorridos relevantes

Las redes neuronales gráficas (GNNs) son un enfoque popular para predecir datos estructurados en grafos. Dado que las GNNs entrelazan estrechamente el grafo de entrada en la estructura de la red neuronal, los enfoques comunes de IA explicativa no son aplicables. Hasta cierto punto, las GNNs han permanecido como cajas negras para el usuario hasta ahora. En este artículo, demostramos que las GNNs pueden ser explicadas de manera natural utilizando expansiones de orden superior, es decir, identificando grupos de aristas que contribuyen conjuntamente a la predicción. En la práctica, encontramos que tales explicaciones se pueden extraer utilizando un esquema de atribución anidado, donde se pueden aplicar técnicas existentes como la propagación de relevancia capa por capa (LRP) en cada paso. La salida es una colección de recorridos en el grafo de entrada que son relevantes para la predicción. Nuestro novedoso método de explicación, que denominamos GNN-LRP, es aplicable a una amplia gama de redes neuronales gráficas y nos permite extraer información prácticamente relevante sobre el análisis de sentimientos de datos textuales, relaciones estructura-propiedad en química cuántica y clasificación de imágenes.