Ein Überblick über das Lernen von Datenrepräsentationen: Von traditionellem Merkmalslernen zu aktuellem Deep Learning

Seit etwa 100 Jahren wurden viele Ansätze zum Lernen der intrinsischen Struktur von Daten vorgeschlagen, entweder linear oder nicht-linear, entweder überwacht oder unüberwacht, entweder "flach" oder "tief". Besonders tiefenarchitekturen werden in den letzten Jahren häufig für das Lernen von Datenrepräsentationen angewendet und haben in vielen Aufgaben, wie Bildklassifikation, Objekterkennung und Spracherkennung, herausragende Ergebnisse geliefert. In diesem Papier überprüfen wir die Entwicklung der Methoden des Lernens von Datenrepräsentationen. Speziell untersuchen wir sowohl traditionelle Algorithmen für das Merkmalslernen als auch moderne Deep-Learning-Modelle. Die Geschichte des Lernens von Datenrepräsentationen wird vorgestellt, während verfügbare Online-Ressourcen (z. B. Kurse, Tutorials und Bücher) sowie Toolboxen bereitgestellt werden. Am Ende geben wir einige Anmerkungen zur Entwicklung des Lernens von Datenrepräsentationen und schlagen einige interessante Forschungsrichtungen in diesem Bereich vor.