NeuralPower: Predecir y Desplegar Redes Neuronales Convolucionales Eficientes en Energía

"¿Cuánta energía se consume para una inferencia hecha por una red neuronal convolucional (CNN)?" Con la creciente popularidad de las CNN desplegadas en una amplia gama de plataformas (desde dispositivos móviles hasta estaciones de trabajo), la respuesta a esta pregunta ha llamado la atención significativa. Desde el alargamiento de la vida de la batería de dispositivos móviles hasta la reducción de la factura de energía de un centro de datos, es importante entender la eficiencia energética de las CNN durante el servicio al hacer una inferencia, antes de realmente entrenar el modelo. En este trabajo, proponemos NeuralPower: un marco predictivo por capas basado en regresión polinómica escasa, para predecir el consumo energético de un CNN desplegada en cualquier plataforma de GPU. Dada la arquitectura de una CNN, NeuralPower proporciona una predicción precisa y un desglose del poder y el tiempo de ejecución en todas las capas de toda la red, ayudando a los aprendices automáticos a identificar rápidamente los cuellos de botella de poder, tiempo de ejecución o energía. También proponemos la métrica "índice de energía-precisión" (EPR) para guiar a los aprendices automáticos en la selección de una arquitectura de CNN eficiente en energía que mejor compense el consumo energético y la precisión de la predicción. Los resultados experimentales muestran que la precisión de la predicción de NeuralPower supera al mejor modelo publicado hasta la fecha, logrando una mejora en la precisión de hasta el 68.5%. También evaluamos la precisión de las predicciones a nivel de red, prediciendo el tiempo de ejecución, el poder y la energía de arquitecturas de CNN de última generación, logrando una precisión promedio del 88.24% en tiempo de ejecución, 88.34% en poder y 97.21% en energía. Corroboramos de manera exhaustiva la efectividad de NeuralPower como un marco poderoso para los aprendices automáticos al probarlo en diferentes plataformas de GPU y herramientas de software de aprendizaje profundo.