Leistung von Kapselnetzwerken bei komplexen Daten

In den letzten Jahren haben konvolutionale neuronale Netzwerke (CNN) eine wichtige Rolle im Bereich des Deep Learning gespielt. Varianten von CNNs haben sich als sehr erfolgreich bei Klassifikationsaufgaben in verschiedenen Domänen erwiesen. Es gibt jedoch zwei große Nachteile von CNNs: ihre Unfähigkeit, wichtige räumliche Hierarchien zwischen Merkmalen zu berücksichtigen, und ihr Mangel an rotationsinvarianz. Solange bestimmte Schlüsselmerkmale eines Objekts in den Testdaten vorhanden sind, klassifizieren CNNs die Testdaten als das Objekt, ohne die relative räumliche Orientierung der Merkmale zueinander zu berücksichtigen. Dies führt zu falsch-positiven Ergebnissen. Der Mangel an rotationsinvarianz in CNNs würde dazu führen, dass das Netzwerk dem Objekt ein anderes Etikett zuweist, was falsch-negative Ergebnisse verursacht. Um dieses Problem anzugehen, schlagen Hinton et al. in einer aktuellen Veröffentlichung eine neuartige Art von neuronalen Netzwerk vor, das das Konzept der Kapseln nutzt. Mit Hilfe von dynamischem Routing und Rekonstruktionsregularisierung würde das Kapselnetzwerk-Modell sowohl rotationsinvariant als auch räumlich bewusst sein. Das Kapselnetzwerk hat sein Potenzial gezeigt, indem es einen state-of-the-art Ergebnis von 0,25 % Testfehler auf MNIST ohne Datenaugmentation wie Rotation und Skalierung erreicht hat, besser als die vorherige Basislinie von 0,39 %. Um die Anwendung von Kapselnetzwerken auf Daten mit höherer Dimensionalität weiter zu testen, versuchen wir, den besten Satz von Konfigurationen zu finden, die den optimalen Testfehler auf dem CIFAR10-Datensatz liefern.