Dans quelle mesure les grands modèles de langage sont-ils sensibles à la manipulation idéologique ?

Les grands modèles de langage (GML) ont le potentiel d'exercer une influence considérable sur la perception publique et les interactions avec l'information. Cela soulève des inquiétudes quant à l'impact sociétal qui pourrait découler du fait que les idéologies au sein de ces modèles peuvent être facilement manipulées. Dans ce travail, nous examinons à quel point les GML peuvent apprendre et généraliser les biais idéologiques à partir de leurs données d'ajustement d'instruction. Nos résultats révèlent une vulnérabilité préoccupante : l'exposition à seulement une petite quantité d'échantillons idéologiquement motivés modifie de manière significative l'idéologie des GML. Notamment, les GML montrent une capacité surprenante à absorber l'idéologie d'un sujet et à la généraliser à des sujets même non liés. La facilité avec laquelle les idéologies des GML peuvent être biaisées souligne les risques associés à des données d'entraînement intentionnellement empoisonnées par des acteurs malveillants ou introduites par inadvertance par des annotateurs de données. Cela souligne également l'impératif de mesures de protection robustes pour atténuer l'influence des manipulations idéologiques sur les GML.