DaDianNao: Una Supercomputadora de Aprendizaje Automático

Muchas empresas están implementando servicios, ya sea para consumidores o para la industria, que se basan en gran medida en algoritmos de aprendizaje automático para el procesamiento sofisticado de grandes cantidades de datos. Los algoritmos de aprendizaje automático más avanzados y populares son las Redes Neuronales Convolucionales y Profundas (CNNs y DNNs), que se sabe que son intensivos en computación y memoria. Se han propuesto recientemente varios aceleradores de redes neuronales que pueden ofrecer una alta relación capacidad/área computacional, pero que siguen siendo limitados por los accesos a memoria. Sin embargo, a diferencia del muro de memoria que enfrentan los procesadores en cargas de trabajo de propósito general, la huella de memoria de las CNNs y DNNs, aunque grande, no está fuera de la capacidad de almacenamiento en chip de un sistema de múltiples chips. Esta propiedad, combinada con las características algorítmicas de las CNN/DNN, puede conducir a un alto ancho de banda interno y bajas comunicaciones externas, lo que a su vez puede permitir un alto grado de paralelismo a un costo de área razonable. En este artículo, presentamos una arquitectura de aprendizaje automático de múltiples chips personalizada en esa línea. Mostramos que, en un subconjunto de las capas de red neuronal más grandes conocidas, es posible lograr una aceleración de 450.65x sobre una GPU, y reducir la energía en un promedio de 150.31x para un sistema de 64 chips. Implementamos el nodo hasta el lugar y la ruta a 28nm, conteniendo una combinación de unidades de almacenamiento y computación personalizadas, con interconexiones de grado industrial.