Attaques, Défenses et Évaluations pour la Sécurité des Conversations LLM : Une Enquête

Les Modèles de Langue de Grande Taille (LLMs) sont désormais courants dans les applications de conversation. Cependant, leurs risques de mauvaise utilisation pour générer des réponses nuisibles ont soulevé de sérieuses préoccupations sociétales et ont stimulé des recherches récentes sur la sécurité des conversations LLM. Par conséquent, dans cette enquête, nous fournissons un aperçu complet des études récentes, couvrant trois aspects critiques de la sécurité des conversations LLM : les attaques, les défenses et les évaluations. Notre objectif est de fournir un résumé structuré qui améliore la compréhension de la sécurité des conversations LLM et encourage des investigations supplémentaires sur ce sujet important. Pour référence facile, nous avons catégorisé toutes les études mentionnées dans cette enquête selon notre taxonomie, disponible à : https://github.com/niconi19/LLM-conversation-safety.