ADE-HGNN: Acelerando HGNNs a través de la explotación de la disparidad de atención

Las Redes Neuronales de Grafos Heterogéneas (HGNNs) han demostrado recientemente un gran poder en el manejo de datos de grafos heterogéneos, lo que las hace ampliamente aplicadas en muchos dominios críticos del mundo real. La mayoría de los modelos HGNN aprovechan los mecanismos de atención para mejorar significativamente la precisión del modelo, aunque a costa de aumentar la complejidad computacional y los requisitos de ancho de banda de memoria. Afortunadamente, la disparidad de atención de los vértices fuente hacia un vértice objetivo común revela una oportunidad para aumentar el rendimiento de la ejecución del modelo al podar vértices fuente no importantes durante la agregación de vecinos. En este estudio, comenzamos con un análisis cuantitativo de la disparidad de atención en los modelos HGNN, donde la importancia de diferentes vértices fuente varía para el mismo vértice objetivo. Para explotar completamente este hallazgo para la aceleración de la inferencia, proponemos un método de poda en tiempo de ejecución basado en heap mínimo y lo mapeamos a un podador de hardware dedicado para descartar vértices no importantes. Dado que el costo de la poda en sí es no despreciable y no puede ser amortiguado por el paradigma convencional de ejecución en etapas, se introduce un flujo de ejecución de fusión de operaciones de HGNNs para superponer el costo de la poda mientras se aprovecha el paralelismo inter-etapas. Finalmente, presentamos el diseño de un nuevo acelerador HGNN, ADE-HGNN, diseñado para soportar el marco de ejecución propuesto. Nuestros resultados experimentales demuestran que ADE-HGNN logra una mejora promedio de rendimiento de 28.21x sobre la plataforma NVIDIA GPU T4 y 7.98x sobre la avanzada GPU A100, con la pérdida de precisión de la inferencia mantenida dentro de un rango negligible del 0.11%~1.47%. Además, ADE-HGNN reduce significativamente el consumo de energía al 1.97% y 5.37% de las dos plataformas, respectivamente.