Dérive d'alignement dans l'interaction humaine–LLM à long terme : un cadre orienté mécanismes

L'interaction à long terme avec des systèmes basés sur les LLM peut produire une dérive d'alignement : un processus graduel dans lequel les sorties du système deviennent moins contraintes par le message actuel de l'utilisateur et davantage influencées par l'historique des interactions précédentes, tout en demeurant utiles, cohérentes et réactives. Ce processus est difficile à détecter car l'expérience subjective de l'utilisateur peut s'améliorer à mesure que le système devient plus familier, utile et adapté. Les recherches existantes sur l'interaction humaine–LLM se sont principalement concentrées sur la performance à court terme des tâches, les sorties isolées ou les problèmes d'alignement sur une seule instance, laissant sous-caractérisées les dynamiques cumulatives et lentes au niveau de l'interaction. Cet article propose un cadre orienté mécanismes pour décrire la dérive d'alignement. Ce cadre définit la distinction entre le signal A et le signal B, explique comment la dérive se développe via des boucles de rétroaction et une sélection de sous-modèles, divise le processus en trois régimes interactionnels, et identifie les conditions limites pour contrôler la dérive. En considérant la dérive d'alignement comme un processus interactionnel récursif plutôt que comme une défaillance isolée du modèle, cet article offre une base conceptuelle pour l'étude de l'interaction humaine-système à long terme.