Validation croisée efficace pour la régression à moindres carrés kernelisée avec des expansions de base éparses

Nous proposons un algorithme efficace pour calculer des estimations de type hold-out et validation croisée (CV) pour des prédicteurs à moindres carrés régularisés épars. La conservation de H points de données avec notre méthode nécessite O(min(H²n, Hn²)) temps à condition qu’un prédicteur avec n vecteurs de base soit déjà entraîné. En plus de conserver des exemples d’entraînement, certains des vecteurs de base utilisés pour entraîner le prédicteur à moindres carrés régularisés épars avec l'ensemble d'entraînement complet peuvent également être retirés de l'ensemble des vecteurs de base utilisés dans le calcul du hold-out. Dans nos expériences, nous démontrons les améliorations de vitesse apportées par notre algorithme en pratique, et nous montrons empiriquement les avantages de retirer certains des vecteurs de base pendant les rondes de CV.