Apprentissage de la correspondance structurelle neuronale pour l'adaptation de domaine

Nous introduisons un modèle de réseau de neurones qui marie des idées issues de deux courants de recherche majeurs sur l'adaptation de domaine par apprentissage de représentation : l'apprentissage de la correspondance structurelle (SCL, (Blitzer et al., 2006)) et les réseaux de neurones autoencodeurs. Notre modèle est un réseau de neurones à trois couches qui apprend à encoder les caractéristiques non pivots d'un exemple d'entrée dans une représentation de faible dimension, de sorte que l'existence de caractéristiques pivots (caractéristiques qui sont proéminentes dans les deux domaines et fournissent des informations utiles pour la tâche de NLP) dans l'exemple puisse être décodée à partir de cette représentation. La représentation de faible dimension est ensuite utilisée dans un algorithme d'apprentissage pour la tâche. De plus, nous montrons comment injecter des embeddings de mots pré-entraînés dans notre modèle afin d'améliorer la généralisation entre les exemples avec des caractéristiques pivots similaires. Nous expérimentons avec la tâche de classification des sentiments interdomaines sur 16 paires de domaines et montrons des améliorations substantielles par rapport à des bases solides.