Reformuler les invites d'instruction selon le langage de GPTk

Quels types d'instructions sont plus faciles à suivre pour les modèles de langage (ML) ? Nous étudions cette question en menant une analyse empirique approfondie qui éclaire des caractéristiques importantes des invites d'instruction réussies. Plus précisément, nous étudions plusieurs classes de techniques de reformulation pour la reformulation manuelle des invites en des formes plus efficaces. Parmi les exemples, citons la décomposition d'une instruction de tâche complexe en plusieurs tâches plus simples ou la liste des instructions en étapes séquentielles. Nos expériences comparent la performance en zero-shot et en few-shot des ML sollicités avec des instructions reformulées sur 12 tâches de traitement du langage naturel réparties en 6 catégories. Comparées aux instructions originales, nos instructions reformulées entraînent des améliorations significatives parmi les ML de différentes tailles. Par exemple, les mêmes invites reformulées augmentent la performance en few-shot des séries GPT3 et GPT2 de 12,5 % et 6,7 % respectivement, en moyenne sur toutes les tâches. De plus, les instructions reformulées réduisent le nombre d'exemples requis pour solliciter les ML dans le cadre few-shot. Nous espérons que ces techniques guidées par l'empirisme ouvriront la voie à des algorithmes de sollicitation plus efficaces à l'avenir.