SGD adaptativo sin sesgo en GLMs de alta dimensionalidad con datos en streaming

La inferencia estadística en línea facilita el análisis en tiempo real de datos recolectados secuencialmente, lo que la diferencia de los métodos tradicionales que se basan en conjuntos de datos estáticos. Este artículo introduce un enfoque novedoso para la inferencia en línea en modelos lineales generalizados de alta dimensionalidad, donde actualizamos las estimaciones de los coeficientes de regresión y sus errores estándar con cada nueva llegada de datos. En contraste con los métodos existentes que requieren acceso a conjuntos de datos completos o almacenamiento de estadísticas resumen de gran dimensionalidad, nuestro método opera en un modo de paso único, reduciendo significativamente tanto la complejidad temporal como espacial. El núcleo de nuestra innovación metodológica radica en un algoritmo de descenso de gradiente estocástico adaptativo diseñado para funciones objetivo dinámicas, junto con un nuevo procedimiento de des-biasing en línea. Esto nos permite mantener estadísticas resumen de baja dimensionalidad mientras controlamos eficazmente los errores de optimización introducidos por las funciones de pérdida que cambian dinámicamente. Demostramos que nuestro método, denominado Lasso Aproximado Sin Sesgo (ADL), no solo mitiga la necesidad de la condición de probabilidad individual acotada, sino que también mejora significativamente el rendimiento numérico. Experimentos numéricos demuestran que el método ADL propuesto presenta de manera consistente un rendimiento robusto a través de diversas estructuras de matrices de covarianza.