El sesgo en las sugerencias de autocompletar de la IA conduce a un cambio de actitud sobre temas sociales

Las tecnologías de IA, como los Modelos de Lenguaje Grande (LLMs), se utilizan cada vez más para hacer sugerencias que completen el texto a medida que las personas escriben. ¿Pueden estas sugerencias impactar la escritura y las actitudes de las personas? En dos experimentos a gran escala preregistrados (N=2,582), exponemos a los participantes que escriben sobre importantes temas sociales a sugerencias generadas por IA sesgadas. Las actitudes que los participantes expresaron en su escritura y en una encuesta posterior a la tarea convergieron hacia la posición de la IA. Sin embargo, la mayoría de los participantes no eran conscientes del sesgo de las sugerencias de IA y de su influencia. Además, la conciencia de la tarea o del sesgo de la IA, por ejemplo, advertir a los participantes sobre el sesgo potencial antes o después de la exposición al tratamiento, no mitigó el efecto de influencia. Además, la influencia de la IA no se explica completamente por la información adicional proporcionada por las sugerencias.