Zur Konvergenz des kontinuierlichen Lernens mit adaptiven Methoden

Eines der Ziele des kontinuierlichen Lernens besteht darin, katastrophales Vergessen beim sequentiellen Lernen mehrerer Aufgaben zu verhindern, und die bestehenden Lösungen wurden durch die Konzeptualisierung des Plastizitäts-Stabilitäts-Dilemmas vorangetrieben. Die Konvergenz des kontinuierlichen Lernens für jede sequentielle Aufgabe wurde bislang jedoch weniger untersucht. In diesem Papier liefern wir eine Konvergenzanalyse des speicherbasierten kontinuierlichen Lernens mit stochastischem Gradientabstieg und empirische Beweise dafür, dass das Training aktueller Aufgaben die kumulative Verschlechterung vorheriger Aufgaben verursacht. Wir schlagen eine adaptive Methode für nichtkonvexes kontinuierliches Lernen (NCCL) vor, die die Schrittgrößen sowohl früherer als auch aktueller Aufgaben mit den Gradienten anpasst. Die vorgeschlagene Methode kann die gleiche Konvergenzrate wie die SGD-Methode erreichen, wenn der katastrophale Vergessensbegriff, den wir im Papier definieren, bei jeder Iteration unterdrückt wird. Darüber hinaus zeigen wir, dass der vorgeschlagene Algorithmus die Leistung des kontinuierlichen Lernens im Vergleich zu bestehenden Methoden für several Bildklassifizierungsaufgaben verbessert.