Conduction d'exploration basée sur l'entropie pour le raisonnement multi-étapes

Les processus multi-étapes via des modèles de langage large (LLM) se sont révélés efficaces pour résoudre des tâches de raisonnement complexes. Cependant, la profondeur d'exploration de la procédure de raisonnement peut affecter significativement la performance de la tâche. Les méthodes existantes pour décider automatiquement de la profondeur conduisent souvent à des coûts élevés et à un manque de flexibilité. Pour remédier à ces problèmes, nous proposons la Conduction de Profondeur d'Exploration Basée sur l'Entropie (Entro-duction), une méthode novatrice qui ajuste de manière dynamique la profondeur d'exploration pendant le raisonnement multi-étapes en surveillant l'entropie de sortie et l'entropie de variance du LLM. Nous utilisons ces deux caractéristiques pour capturer l'incertitude du modèle à l'étape actuelle et les fluctuations de l'incertitude à travers les étapes de raisonnement consécutives. Sur la base des changements d'entropie observés, le LLM choisit de creuser, d'élargir ou d'arrêter l'exploration selon la probabilité, ce qui facilite le compromis entre la précision du raisonnement et l'efficacité de l'exploration. Les résultats expérimentaux sur quatre ensembles de données de référence démontrent l'efficacité de l'Entro-duction.