NanoAdapt : Atténuer le transfert négatif dans l'adaptation en temps de test avec des tailles de lot extrêmement petites

L'adaptation en temps de test (TTA) a suscité une attention significative ces dernières années, avec un accent de recherche sur la gestion des changements de distribution pendant le temps de test. En tant que composant fondamental de nombreuses méthodes TTA, la couche de normalisation par lot (BN) joue un rôle crucial dans l'adaptabilité du modèle. Cependant, les stratégies BN existantes peuvent s'avérer néfastes lorsque la taille du lot est (extrêmement) petite. Dans de nombreux scénarios du monde réel, des ressources matérielles limitées ou une demande juste à temps nécessitent souvent d'ajuster les modèles avec des tailles de lot très petites, rendant les méthodes existantes moins pratiques. Dans cet article, nous commençons par présenter et analyser en profondeur le phénomène de transfert négatif dans les méthodes TTA précédentes rencontrant des tailles de lot extrêmement petites. Par la suite, nous proposons une nouvelle méthode agnostique à la taille du lot appelée NanoAdapt pour atténuer efficacement le transfert négatif même avec une taille de lot de 1. NanoAdapt est composé de trois composants clés : une stratégie de calibration dynamique de BN qui exploite des informations historiques et la série de Taylor pour affiner les estimations statistiques, une stratégie d'accumulation de gradient pondérée par l'entropie qui utilise l'entropie de la prédiction d'étiquette de chaque échantillon pour peser et accumuler la perte pour la rétropropagation, et un nouveau graphe de calcul proxy pour capturer les interactions entre échantillons. Des expériences approfondies sont menées pour valider la supériorité de NanoAdapt, montrant son efficacité constante pour améliorer les méthodes TTA existantes.