Cerrando la Brecha: Sincronización del Ritmo de Aprendizaje para Aprendizaje Semi-Supervisado en Mundo Abierto

En el aprendizaje semi-supervisado en mundo abierto, un modelo de aprendizaje automático tiene la tarea de descubrir nuevas categorías a partir de datos no etiquetados mientras mantiene el rendimiento en categorías vistas de datos etiquetados. El desafío central es la considerable brecha de aprendizaje entre las categorías vistas y las nuevas, ya que el modelo aprende las primeras más rápido debido a la información supervisora precisa. Además, capturar la semántica de muestras de nuevas categorías no etiquetadas también es un desafío debido a la falta de información de etiquetas. Para abordar los problemas mencionados, introducimos 1) la pérdida marginal adaptativa de sincronización que impone márgenes negativos específicos de clase para aliviar el sesgo del modelo hacia las clases vistas, y 2) el agrupamiento contrastivo de pseudo-etiquetas que explota las pseudo-etiquetas predichas por el modelo para agrupar datos no etiquetados de la misma categoría en el espacio de salida. Extensos experimentos en conjuntos de datos de referencia demuestran que los enfoques previos pueden dificultar significativamente el aprendizaje de clases nuevas, mientras que nuestro método equilibra notablemente el ritmo de aprendizaje entre clases vistas y nuevas, logrando un notable incremento del 3% en la precisión promedio en el conjunto de datos ImageNet. Es importante destacar que encontramos que el ajuste fino del modelo preentrenado de auto-supervisión aumenta significativamente el rendimiento, lo cual ha sido pasado por alto en la literatura previa. Nuestro código está disponible en https://github.com/yebo0216best/LPS-main.