Optimización del rendimiento de inferencia del aprendizaje automático en dispositivos IoT: compensaciones y perspectivas del aprendizaje estadístico

Los dispositivos de Internet de las Cosas (IoT) tienen limitaciones en comunicación, computación, tamaño, peso, duración de la batería y consumo de energía. Los algoritmos de aprendizaje automático (ML) en dispositivos IoT sufren de recursos computacionales limitados, lo que resulta en un rendimiento deficiente. Técnicas como la poda de modelos, la descarga (offloading) y la compresión de datos pueden mejorar los costos computacionales, de red y de almacenamiento, así como el rendimiento, a expensas de la calidad de la inferencia. Este estudio examina el rendimiento de las tareas de inferencia de ML y las adaptaciones en dispositivos IoT utilizando métodos de aprendizaje estadístico como la regresión ridge y el bosque aleatorio. Nuestro objetivo es comprender las compensaciones de las adaptaciones de inferencia en una gama de regímenes operativos, incluyendo restricciones en el ancho de banda disponible, distancia de los datos y restricciones en la computación. Nuestros resultados indican que la configuración de la tarea, si se descarga o se ejecuta en el dispositivo, y el ancho de banda disponible son los factores más críticos en la determinación del rendimiento de la inferencia, mientras que el porcentaje de modelo podado es el menos importante. Estos hallazgos demuestran cómo el aprendizaje estadístico puede ser utilizado para comprender mejor los efectos del rendimiento de las tareas en dispositivos IoT y ofrecen perspectivas sobre qué adaptaciones de inferencia proporcionan las mayores mejoras en las tareas de inferencia de ML para apoyar los requisitos en tiempo real.