Konsistenz der Kreuzvalidierung zum Vergleich von Regressionsverfahren

Theoretische Entwicklungen zur Kreuzvalidierung (CV) konzentrierten sich hauptsächlich darauf, eines aus einer Liste von endlichdimensionalen Modellen auszuwählen (z. B. Teilmengen- oder Ordungsauswahl in der linearen Regression) oder einen Glättungsparameter auszuwählen (z. B. Bandbreite für die Kernelschätzung). Es ist jedoch wenig über die Konsistenz der Kreuzvalidierung bekannt, wenn sie verwendet wird, um parametrische und nicht-parametrische Methoden zu vergleichen oder innerhalb nicht-parametrischer Methoden. Wir zeigen, dass unter bestimmten Bedingungen, bei einer angemessenen Wahl des Verhältnisses für die Datenteilung, die Kreuzvalidierung konsistent ist im Sinne der Auswahl des besseren Verfahrens mit einer Wahrscheinlichkeit, die sich 1 nähert. Unsere Ergebnisse zeigen ein interessantes Verhalten der Kreuzvalidierung. Bei dem Vergleich zweier Modelle (Verfahren), die mit der gleichen nicht-parametrischen Rate konvergieren, stellt sich im Gegensatz zum parametrischen Fall heraus, dass der Anteil der für die Bewertung in der CV verwendeten Daten nicht domininierend in der Größe sein muss. Darüber hinaus kann er sogar kleiner sein als der Anteil für die Schätzung, ohne die Konsistenz-Eigenschaft zu beeinträchtigen.