Défense contre les attaques d'ingénierie sociale à l'âge des LLMs

La prolifération des Modèles de Langue de Grande Taille (LLMs) pose des défis dans la détection et l'atténuation de la tromperie numérique, car ces modèles peuvent émuler les schémas de conversation humaine et faciliter les attaques d'ingénierie sociale basées sur le chat (CSE). Cette étude examine les doubles capacités des LLMs en tant que facilitateurs et défenseurs contre les menaces CSE. Nous développons un nouvel ensemble de données, SEConvo, simulant des scénarios CSE dans des contextes académiques et de recrutement, conçu pour examiner comment les LLMs peuvent être exploités dans ces situations. Nos résultats révèlent que, bien que les LLMs commerciaux génèrent un contenu CSE de haute qualité, leurs capacités de détection sont sous-optimales, ce qui entraîne des coûts opérationnels accrus pour la défense. En réponse, nous proposons ConvoSentinel, un pipeline de défense modulaire qui améliore la détection tant au niveau des messages qu'à celui des conversations, offrant une adaptabilité et une rentabilité accrues. Le module de récupération augmentée dans ConvoSentinel identifie l'intention malveillante en comparant les messages à une base de données de conversations similaires, renforçant la détection CSE à tous les stades. Notre étude souligne la nécessité de stratégies avancées pour tirer parti des LLMs dans la cybersécurité.