Défense contre le piratage de modèles de langage de grande taille par traduction aller-retour

Les modèles de langage de grande taille (LLMs) sont susceptibles aux attaques d'ingénierie sociale qui sont interprétables par les humains mais nécessitent un haut niveau de compréhension pour que les LLMs puissent y faire face. Les mesures défensives existantes ne peuvent atténuer qu'un peu moins de la moitié de ces attaques, au mieux. Pour aborder ce problème, nous proposons la méthode de traduction aller-retour (RTT), le premier algorithme spécifiquement conçu pour défendre contre les attaques d'ingénierie sociale sur les LLMs. Le RTT paraphrase l'invite adversariale et généralise l'idée véhiculée, facilitant ainsi la détection par les LLMs des comportements nuisibles induits. Cette méthode est polyvalente, légère et transférable à différents LLMs. Notre défense a réussi à atténuer plus de 70 % des attaques de raffinement itératif automatique des invites (PAIR), ce qui est actuellement la défense la plus efficace à notre connaissance. Nous sommes également les premiers à tenter d'atténuer le MathsAttack et avons réduit son taux de réussite d'attaque de presque 40 %. Notre code est disponible publiquement à l'adresse https://github.com/Cancanxxx/RoundTripTranslationDefence.