GCNet : Les Réseaux Non-Local rencontrent les Réseaux de Squeeze-Excitation et au-delà

Le Réseau Non-Local (NLNet) présente une approche pionnière pour capturer les dépendances à long terme, en agrégeant un contexte global spécifique à la requête à chaque position de requête. Cependant, à travers une analyse empirique rigoureuse, nous avons constaté que les contextes globaux modélisés par le réseau non-local sont presque les mêmes pour différentes positions de requête au sein d'une image. Dans cet article, nous tirons parti de cette découverte pour créer un réseau simplifié basé sur une formulation indépendante de la requête, qui maintient la précision du NLNet mais avec considérablement moins de calcul. Nous observons en outre que ce design simplifié partage une structure similaire avec le Réseau de Squeeze-Excitation (SENet). Ainsi, nous les unifions dans un cadre général en trois étapes pour la modélisation du contexte global. Dans le cadre général, nous concevons une meilleure instantiation, appelée le bloc de contexte global (GC), qui est léger et peut efficacement modéliser le contexte global. La propriété légère nous permet de l'appliquer à plusieurs couches dans un réseau de base pour construire un réseau de contexte global (GCNet), qui surpasse généralement à la fois le NLNet simplifié et le SENet sur des benchmarks majeurs pour diverses tâches de reconnaissance.