Ajustement des modèles de langue en tant que générateurs de données d'entraînement pour l'apprentissage par petits échantillons amélioré par augmentation

Des études récentes ont révélé l'intrigante capacité d'apprentissage par petits échantillons des modèles de langue préentraînés (PLMs) : ils peuvent rapidement s'adapter à une nouvelle tâche lorsqu'ils sont ajustés sur une petite quantité de données étiquetées formulées sous forme d'invites, sans nécessiter d'abondantes annotations spécifiques à la tâche. Malgré leurs performances prometteuses, la plupart des approches existantes d'apprentissage par petits échantillons qui n'apprennent que du petit ensemble d'entraînement sous-performent encore par rapport à l'entraînement entièrement supervisé de marges non triviales. Dans ce travail, nous étudions l'apprentissage par petits échantillons avec les PLMs sous un angle différent : nous ajustons d'abord un PLM autoregressif sur les échantillons par petits échantillons, puis nous l'utilisons comme générateur pour synthétiser une grande quantité de nouveaux échantillons d'entraînement qui augmentent l'ensemble d'entraînement original. Pour encourager le générateur à produire des échantillons discriminatifs par rapport aux étiquettes, nous l'entraînons via une vraisemblance maximale pondérée où le poids de chaque jeton est automatiquement ajusté en fonction d'un objectif de méta-apprentissage discriminatif. Un PLM de classification peut alors être ajusté à la fois sur les échantillons par petits échantillons et les échantillons synthétiques avec régularisation pour une meilleure généralisation et stabilité. Notre approche FewGen atteint un meilleur résultat global sur sept tâches de classification du benchmark GLUE que les méthodes existantes d'apprentissage par petits échantillons, améliorant les méthodes sans augmentation de plus de 5 points en moyenne et surpassant les méthodes d'augmentation de plus de 3 points en moyenne.