Mehrfacher Abstieg: Entwerfen Sie Ihre eigene Verallgemeinerungskurve

In diesem Papier wird der Verallgemeinerungsverlust der linearen Regression in variabel parametrisierten Modellfamilien untersucht, sowohl unterparametrisierten als auch überparametrisierten. Wir zeigen, dass die Verallgemeinerungskurve eine beliebige Anzahl von Spitzen aufweisen kann, und darüber hinaus können die Standorte dieser Spitzen explizit gesteuert werden. Unsere Ergebnisse heben hervor, dass sowohl die klassische U-förmige Verallgemeinerungskurve als auch die kürzlich beobachtete doppelte Abstiegskurve keine intrinsischen Eigenschaften der Modellfamilie sind. Stattdessen ist ihr Auftreten auf die Interaktion zwischen den Eigenschaften der Daten und den induktiven Verzerrungen der Lernalgorithmen zurückzuführen.