Key points are not available for this paper at this time.
Les agents de Modèle de Langue Large (LLM) sont devenus de plus en plus présents dans diverses applications réelles. Ils améliorent la prise de décision en stockant les interactions privées utilisateur-agent dans le module de mémoire pour des démonstrations, introduisant de nouveaux risques de confidentialité pour les agents LLM. Dans ce travail, nous enquêtons systématiquement sur la vulnérabilité des agents LLM à notre attaque de EXTRaction de Mémoire (MEXTRA) proposée dans un cadre boîte noire. Pour extraire des informations privées de la mémoire, nous proposons une conception de prompt d'attaque efficace et une méthode de génération de prompt automatisée basée sur différents niveaux de connaissance concernant l'agent LLM. Des expériences sur deux agents représentatifs démontrent l'efficacité de MEXTRA. De plus, nous explorons les facteurs clés influençant les fuites de mémoire du point de vue du concepteur de l'agent et de l'attaquant. Nos résultats soulignent l'urgence de mettre en place des mesures de sécurité pour la mémoire dans la conception et le déploiement des agents LLM.
Wang et al. (Mer,) ont étudié cette question.