OnlineHD: Robust, effizient und effiizientes Online-Lernen mit hyperdimensionalem System

Hyper-dimensionale Berechnung (HDC) ist ein hirninspiriertes Lernkonzept für effizientes und robustes Lernen auf heutigen eingebetteten Geräten. HDC unterstützt das Lernen in einem Durchgang, bei dem ein Klassifikationsmodell erstellt wird, indem jeder Trainingsdatenpunkt einmal betrachtet wird. Das Ein-Durchgangsmodell liefert jedoch eine schwache Klassifikationsgenauigkeit aufgrund der Modellsättigung, die durch die naive Ansammlung hochdimensionaler Daten verursacht wird. Obwohl das Nachtrainieren des Modells über Hunderte von Iterationen die Modellsättigung behebt und die Genauigkeit verbessert, bringt es erhebliche Trainingskosten mit sich. In dieser Arbeit schlagen wir OnlineHD vor, ein adaptives HDC-Trainingsframework für genaues, effizientes und robustes Lernen. Während des Ein-Durchgangs-Trainings identifiziert OnlineHD gemeinsame Muster und beseitigt Modellsättigung. Für jeden Datenpunkt aktualisiert OnlineHD das Modell abhängig davon, wie ähnlich es dem bestehenden Modell ist, anstatt naive Datenansammlungen zu verwenden. Wir erweitern das OnlineHD-Framework, um hochgenaues iteratives Training zu unterstützen. Wir nutzen auch die holografische Verteilung von Mustern im hochdimensionalen Raum, um OnlineHD ultra-robust gegenüber möglichen Störungen und Hardwarefehlern zu machen. Unsere Bewertungen über eine Vielzahl von Klassifikationsproblemen zeigen, dass das adaptive Training von OnlineHD eine vergleichbare Klassifikationsgenauigkeit wie das nachtrainierte Modell bietet und gleichzeitig alle Effizienzvorteile eines Ein-Durchgangs-Trainings mit sich bringt. OnlineHD erreicht im Durchschnitt eine 3,5× und 6,9× (3,7× und 5,8×) schnellere und effizientere Ausbildung im Vergleich zu modernsten maschinellen Lernalgorithmen (HDC-Algorithmen) und bietet dabei eine ähnliche Klassifikationsgenauigkeit und 8,5× höhere Robustheit gegenüber einem Hardwarefehler.