Stabilité d'un Lasso Débiaisé Généralisé avec Applications à la Sélection de Variables Basée sur le Rééchantillonnage

Supposons que nous appliquions d'abord le Lasso à une matrice de conception, puis que nous mettions à jour l'une de ses colonnes. En général, les signes des coefficients du Lasso peuvent changer, et il n'existe pas d'expression analytique pour mettre à jour exactement la solution du Lasso. Dans ce travail, nous proposons une formule approximative pour mettre à jour un coefficient de Lasso débiaisé. Nous fournissons des bornes d'erreur générales non asymptotiques en fonction des normes et des corrélations des colonnes de la matrice de conception donnée, puis prouvons des résultats de convergence asymptotique pour le cas d'une matrice de conception aléatoire avec des vecteurs lignes sous-Gaussiens i.i.d. et un bruit Gaussien i.i.d. Notamment, la formule approximative est asymptotiquement correcte pour la plupart des coordonnées dans le régime de croissance proportionnelle, sous l'hypothèse légère que chaque ligne de la matrice de conception est sous-Gaussienne avec une matrice de covariance ayant un nombre de condition borné. Notre démonstration requiert uniquement certaines propriétés de concentration et d'anti-concentration pour contrôler divers termes d'erreur et le nombre de changements de signe. En revanche, l'établissement rigoureux de propriétés limites de distribution (par exemple, limites Gaussiennes pour le Lasso débiaisé) sous des hypothèses également générales est considéré comme un problème ouvert dans la théorie de l'universalité. En applications, nous montrons que la formule approximative nous permet de réduire la complexité de calcul des algorithmes de sélection de variables nécessitant la résolution de multiples problèmes de Lasso, tels que le test de randomisation conditionnelle et une variante du filtre knockoff.