Ingénierie de la géométrie de l'effondrement neuronal de la perte contrastive supervisée

La perte contrastive supervisée (SCL) est une alternative à l'entropie croisée (CE) pour les tâches de classification qui utilise les similarités dans l'espace d'incorporation pour permettre des représentations plus riches. Dans ce travail, nous proposons des méthodes pour concevoir la géométrie de ces incorporations de caractéristiques apprises en modifiant la perte contrastive. Dans la quête d'ajuster la géométrie, nous explorons l'impact des prototypes, des incorporations fixes incluses lors de l'entraînement pour modifier la géométrie finale des caractéristiques. Spécifiquement, à travers des résultats empiriques, nous démontrons que l'inclusion de prototypes dans chaque lot induit la géométrie des incorporations apprises à s'aligner avec celle des prototypes. Nous obtenons des informations supplémentaires en considérant un scénario limite où le nombre de prototypes dépasse largement la taille originale du lot. Ce faisant, nous établissons un lien avec la perte d'entropie croisée (CE) avec un classificateur fixe et des incorporations normalisées. Nous validons nos résultats en procédant à une série d'expériences avec des réseaux neuronaux profonds sur des ensembles de données de vision de référence.