Eyeriss: Una Arquitectura Espacial para un Flujo de Datos Energéticamente Eficiente para Redes Neuronales Convolucionales

Las redes neuronales convolucionales profundas (CNNs) se utilizan ampliamente en los sistemas modernos de IA por su superior precisión, pero a costa de una alta complejidad computacional. La complejidad proviene de la necesidad de procesar simultáneamente cientos de filtros y canales en las convoluciones de alta dimensión, lo que implica una cantidad significativa de movimiento de datos. Aunque los paradigmas de computación altamente paralelos, como SIMD/SIMT, abordan eficazmente el requisito de computación para lograr un alto rendimiento, el consumo de energía sigue siendo alto, ya que el movimiento de datos puede ser más costoso que la computación. En consecuencia, encontrar un flujo de datos que soporte el procesamiento paralelo con un costo mínimo de movimiento de datos es crucial para lograr un procesamiento de CNN energéticamente eficiente sin comprometer la precisión. En este artículo, presentamos un nuevo flujo de datos, llamado estacionario por filas (RS), que minimiza el consumo de energía del movimiento de datos en una arquitectura espacial. Esto se realiza aprovechando la reutilización local de datos de los pesos del filtro y los píxeles del mapa de características, es decir, activaciones, en las convoluciones de alta dimensión y minimizando el movimiento de datos de las acumulaciones de suma parcial. A diferencia de los flujos de datos utilizados en diseños existentes, que solo reducen ciertos tipos de movimiento de datos, el flujo de datos RS propuesto puede adaptarse a diferentes configuraciones de forma de CNN y reduce todos los tipos de movimiento de datos mediante la utilización máxima del almacenamiento local del motor de procesamiento (PE), la comunicación directa inter-PE y el paralelismo espacial. Para evaluar la eficiencia energética de los diferentes flujos de datos, proponemos un marco de análisis que compara el costo de energía bajo las mismas restricciones de área de hardware y paralelismo de procesamiento. Los experimentos utilizando las configuraciones de CNN de AlexNet muestran que el flujo de datos RS propuesto es más eficiente energéticamente que los flujos de datos existentes en las capas convolucionales (1.4× a 2.5×) y en las capas completamente conectadas (al menos 1.3× para un tamaño de lote mayor que 16). El flujo de datos RS también se ha demostrado en un chip fabricado, lo que verifica nuestro análisis de energía.