Le message système est-il vraiment important pour les jailbreaks dans les grands modèles de langage ?

L'évolution rapide des Grands Modèles de Langage (GML) les a rendus indispensables dans la société moderne. Bien que des mesures de sécurité soient généralement en place pour aligner les GML sur les valeurs humaines avant leur publication, des études récentes ont révélé un phénomène préoccupant appelé "jailbreak". Ce terme fait référence aux réponses inattendues et potentiellement nuisibles générées par les GML lorsqu'ils sont confrontés à des questions malveillantes. La recherche existante se concentre sur la génération de prompts de jailbreak, mais notre étude vise à répondre à une question différente : le message système est-il vraiment important pour le jailbreak dans les GML ? Pour répondre à cette question, nous avons mené des expériences dans une version stable de GPT gpt-3.5-turbo-0613 pour générer des prompts de jailbreak avec différents messages système : courts, longs et aucun. Nous découvrons que différents messages système ont des résistances distinctes au jailbreak grâce aux expériences. De plus, nous explorons la transférabilité du jailbreak entre les GML. Cette découverte souligne l'impact significatif que les messages système peuvent avoir sur l'atténuation du jailbreak des GML. Pour générer des messages système plus résistants aux prompts de jailbreak, nous proposons des Algorithmes Évolutionnaires pour les Messages Système (SMEA). Grâce aux SMEA, nous pouvons obtenir une population de messages système robustes qui démontrent jusqu'à 98,9 % de résistance aux prompts de jailbreak. Notre recherche renforce non seulement la sécurité des GML, mais élève également le niveau du jailbreak, favorisant les avancées dans ce domaine d'étude.