Wie weit sind automatisch gewählte Regressionsglättungsparameter von ihrem Optimum entfernt?

Zusammenfassung Wir beschäftigen uns mit dem Problem der Auswahl von Glättungsparametern für nichtparametrische Kurven-Schätzer im speziellen Kontext der Kernel-Regressionsschätzung. Wir nennen die „optimale Bandbreite“ den Minimierer des durchschnittlichen quadratischen Fehlers. Wir betrachten mehrere automatisch ausgewählte Bandbreiten, die das Optimum approximieren. Wie weit sind die automatisch ausgewählten Bandbreiten vom Optimum entfernt? Die Antwort wird theoretisch und durch Simulationen untersucht. Die theoretischen Ergebnisse beinhalten einen Grenzwertsatz, der die Konvergenzgeschwindigkeit quantifiziert und die asymptotische Verteilung der Unterschiede angibt. Die Konvergenzgeschwindigkeit stellt sich als äußerst langsam heraus. Dies ist nicht allzu enttäuschend, da diese Rate von der gleichen Größenordnung ist wie die Konvergenzgeschwindigkeit des Unterschieds zwischen den Minimierern des durchschnittlichen quadratischen Fehlers und des mittleren durchschnittlichen quadratischen Fehlers. In einigen Simulationen von John Rice verhielten sich die hier betrachteten Selektoren recht unterschiedlich zueinander. Wir erwarteten, dass sich diese Unterschiede in verschiedenen asymptotischen Verteilungen für die verschiedenen Selektoren widerspiegeln würden. Es ist überraschend, dass alle Selektoren die gleiche asymptotische Normalverteilung haben. Um Einblicke in die Kluft zwischen unseren theoretischen Ergebnissen und diesen Simulationen zu gewinnen, haben wir eine weitere Monte-Carlo-Studie durchgeführt. Unsere Simulationen unterstützen die theoretischen Ergebnisse und deuten darauf hin, dass die von Rice beobachteten Unterschiede hauptsächlich auf die Wahl einer sehr kleinen Fehlerstandardabweichung und die Wahl des Fehlerkriteriums zurückzuführen waren. Im hier betrachteten Beispiel beschreibt das asymptotische Normalitätsergebnis die empirische Verteilung der automatisch gewählten Bandbreiten recht gut, sogar für kleine Stichproben.