SimulMT conversationnel : traduction simultanée efficace avec de grands modèles de langage

La traduction automatique simultanée (SimulMT) présente un compromis difficile entre qualité de traduction et latence. Des études récentes ont montré que les LLM peuvent obtenir de bonnes performances dans les tâches de SimulMT. Cependant, cela se fait souvent au prix d'un coût d'inférence et d'une latence élevés. Dans cet article, nous proposons un cadre de SimulMT conversationnel afin d'améliorer l'efficacité d'inférence du SimulMT basé sur les LLM grâce à un décodage multi-tours basé sur le dialogue. Nos expériences avec Llama2-7b-chat sur deux bancs d'essai de SimulMT démontrent la supériorité des LLM en qualité de traduction tout en atteignant une latence computationnelle comparable à celle des modèles spécialisés en SimulMT.