Une enquête sur l'autoencodeur masqué pour l'apprentissage auto-supervisé en vision et au-delà

Les autoencodeurs masqués sont des apprenants de vision évolutifs, comme le titre de MAE he2022masked, qui suggère que l'apprentissage auto-supervisé (SSL) en vision pourrait suivre une trajectoire similaire à celle du NLP. Plus précisément, les tâches prétextes génératives avec la prédiction masquée (par exemple, BERT) sont devenues une pratique SSL standard de facto dans le NLP. En revanche, les premières tentatives de méthodes génératives en vision ont été éclipsées par leurs homologues discriminatives (comme l'apprentissage contrastif) ; cependant, le succès du modélisation d'image masquée a relancé l'autoencodeur masqué (souvent appelé autoencodeur de débruitage par le passé). En tant que jalon pour combler le fossé avec BERT dans le NLP, l'autoencodeur masqué a attiré une attention sans précédent pour le SSL en vision et au-delà. Ce travail propose une enquête complète sur les autoencodeurs masqués pour éclairer une direction prometteuse du SSL. En tant que premier à examiner le SSL avec des autoencodeurs masqués, ce travail se concentre sur son application en vision en discutant de ses développements historiques, de ses progrès récents et de ses implications pour diverses applications.