LUT-NN: Potenciar la Inferencia Eficiente de Redes Neuronales con Aprendizaje de Centrados y Búsqueda en Tabla

La inferencia de Redes Neuronales Profundas (DNN) en dispositivo consume recursos computacionales significativos y esfuerzos de desarrollo. Para aliviar eso, proponemos LUT-NN, el primer sistema que potencia la inferencia mediante búsqueda en tabla, para reducir el costo de la inferencia. LUT-NN aprende las características típicas para cada operador, llamado centrado, y precomputar los resultados para estos centrados para guardarlos en tablas de búsqueda. Durante la inferencia, los resultados de los centrados más cercanos con las entradas se pueden leer directamente de la tabla, como las salidas aproximadas sin computaciones.