Aprendizaje Óptimo de Cuantiles con Núcleos utilizando Características Aleatorias

El enfoque de características aleatorias (RF) es una herramienta bien establecida y eficiente para métodos de núcleo escalables, pero la literatura existente se ha centrado principalmente en la regresión de crestas del núcleo con características aleatorias (KRR-RF), que tiene limitaciones para manejar datos heterogéneos con ruidos de cola pesada. Este artículo presenta un estudio de generalización de la regresión de cuantiles del núcleo con características aleatorias (KQR-RF), que tiene en cuenta la no suavidad de la pérdida de chequeo en KQR-RF introduciendo una descomposición de error refinada y estableciendo una conexión novedosa entre KQR-RF y KRR-RF. Nuestro estudio establece las tasas de aprendizaje dependientes de la capacidad para KQR-RF bajo condiciones suaves sobre el número de RFs, que son óptimas minimax hasta ciertos factores logarítmicos. Importante, nuestros resultados teóricos, utilizando una estrategia de muestreo dependiente de los datos, pueden extenderse para cubrir el entorno agnóstico donde la función de cuantile objetivo puede no alinearse perfectamente con el espacio del núcleo asumido. Al modificar ligeramente nuestras suposiciones, el análisis de error dependiente de la capacidad también se puede aplicar a casos con pérdidas continuas de Lipschitz, lo que permite aplicaciones más amplias en la comunidad de aprendizaje automático. Para validar nuestros hallazgos teóricos, se llevan a cabo experimentos simulados y una aplicación de datos reales.