Jüngste Fortschritte in skalierbaren, energieeffizienten und vertrauenswürdigen spiking neuronalen Netzwerken: von Algorithmen zu Technologien

Neuromorphe Berechnungen und insbesondere spiking neuronale Netzwerke (SNNs) haben sich als attraktive Alternative zu tiefen neuronalen Netzwerken für eine Vielzahl von Signalverarbeitungsanwendungen etabliert, die statische und/oder zeitliche Eingaben aus verschiedenen Sinnesmodalitäten, einschließlich Audio- und Vision-Sensoren, verarbeiten. In diesem Papier beginnen wir mit einer Beschreibung der jüngsten Fortschritte in algorithmischen und optimierenden Innovationen, um SNNs mit geringer Latenz und Energieeffizienz effizient zu trainieren und zu skalieren für komplexe Anwendungen des maschinellen Lernens. Anschließend diskutieren wir die jüngsten Bemühungen im Bereich des algorithmischen und architektonischen Co-Designs, das die inhärenten Kompromisse zwischen der Erreichung einer hohen Energieeffizienz und niedrigen Latenz im Vergleich zu hoher Genauigkeit und Vertrauenswürdigkeit erforscht. Danach beschreiben wir die zugrunde liegende Hardware, die entwickelt wurde, um solche algorithmischen Innovationen auf effiziente Weise zu nutzen. Insbesondere beschreiben wir eine hybride Methode, um wesentliche Teile der Berechnung des Modells sowohl innerhalb der Speicherkomponenten als auch des Sensors selbst zu integrieren. Schließlich diskutieren wir den potenziellen Weg für die Forschung zum Aufbau von einsatzbereiten SNN-Systemen und identifizieren zentrale Herausforderungen im Bereich des algorithmischen-Hardware-Anwendungs-Co-Designs mit einem Schwerpunkt auf Vertrauenswürdigkeit.