Réseau polarisé profond pour l'apprentissage supervisé de codes de hachage binaire précis

Cet article propose un nouveau réseau polarisé profond (DPN) pour l'apprentissage du hachage, dans lequel chaque canal des sorties du réseau est éloigné de zéro grâce à une perte différentiable de type charnière bit à bit, surnommée perte de polarisation. Reformulée dans le cadre d'un apprentissage de métrique de distance de Hamming générique, Norouzi et al., 2012, la perte de polarisation proposée contourne l'exigence de préparer des étiquettes par paires pour des éléments (dis-)similaires et, pourtant, la perte proposée borne strictement et par le haut les pertes basées sur la distance de Hamming par paires. La connexion intrinsèque entre les informations d'étiquetage par paires et point par point, comme le révèle cet article, entraîne les améliorations méthodologiques suivantes : (a) nous pouvons directement utiliser la perte de polarisation différentiable proposée sans grandes déviations par rapport à la perte ciblée basée sur la distance de Hamming ; et (b) la sous-tâche d'attribution de codes binaires devient extrêmement simple --- même des codes aléatoires attribués à chaque classe suffisent pour obtenir des performances à la pointe de la technologie, comme le démontrent les ensembles de données CIFAR10, NUS-WIDE et ImageNet100.