Validation croisée généralisée comme méthode pour choisir un bon paramètre Ridge

Considérez l'estimation ridge (λ) pour β dans le modèle inconnu, (λ) = (X T X + nλI)−1 X T y. Nous étudions la méthode de validation croisée généralisée (GCV) pour choisir une bonne valeur pour λ à partir des données. L'estimation est le minimiseur de V(λ) donné par A(λ) = X(X T X + nλI)−1 X T . Cette estimation est une version invariante par rotation de PRESS d'Allen, ou validation croisée ordinaire. Cette estimation se comporte comme un estimateur d'amélioration du risque, mais ne nécessite pas une estimation de σ2, elle peut donc être utilisée lorsque n − p est petit, voire même si p ≥ 2 n dans certains cas. La méthode GCV peut également être utilisée dans la sélection de sous-ensembles et les méthodes de troncature des valeurs singulières pour la régression, et même pour choisir parmi des mélanges de ces méthodes.