Optimisation de l'apprentissage de la courbure pour un apprentissage profond hyperbolique robuste en vision par ordinateur

L'apprentissage profond hyperbolique est devenu une direction de recherche croissante en vision par ordinateur en raison des propriétés uniques offertes par cet espace d'encodage alternatif. La courbure négative et la métrique de distance à croissance exponentielle fournissent un cadre naturel pour capturer les relations hiérarchiques entre les points de données et permettre une meilleure séparabilité entre leurs encodages. Cependant, ces méthodes restent coûteuses en calcul et sujettes à l'instabilité, notamment lorsqu'il s'agit d'apprendre la courbure négative la mieux adaptée à la tâche et aux données. Les optimisateurs riemanniens actuels ne prennent pas en compte les changements de la variété, ce qui nuit grandement aux performances et impose d'utiliser des taux d'apprentissage plus faibles afin de minimiser les erreurs de projection. Notre article se concentre sur l'apprentissage de la courbure en introduisant un schéma amélioré pour les algorithmes d'apprentissage populaires et en proposant une nouvelle méthode de normalisation pour contraindre les encodages dans le rayon représentatif variable de la variété. De plus, nous proposons une nouvelle formulation pour Riemannian AdamW, des techniques hybrides alternatives d'encodeur et des formulations fondamentales pour les opérations convolutives hyperboliques actuelles, réduisant considérablement la pénalité de calcul liée à l'espace d'encodage hyperbolique. Notre approche démontre des améliorations de performance constantes à la fois pour la classification directe et les tâches d'apprentissage métrique hiérarchique, tout en permettant l'utilisation de modèles hyperboliques plus volumineux.