Las imágenes, audio y video sintéticos ahora pueden ser generados y editados por Inteligencia Artificial (IA). En particular, el uso malicioso de datos sintéticos ha suscitado preocupaciones sobre los posibles daños a la ciberseguridad, la privacidad personal y la confianza pública. Aunque existen herramientas de detección basadas en IA que ayudan a identificar contenido sintético, sus limitaciones a menudo conducen a la desconfianza del usuario y a la confusión entre contenido real y falso. Este estudio examina el papel del rendimiento de la IA en la influencia de la confianza humana y la toma de decisiones en la identificación de datos sintéticos. A través de un experimento en línea que involucra a 400 participantes, examinamos cómo varía el rendimiento de la IA y su impacto en la confianza humana y la dependencia de la IA en la detección de deepfakes. Nuestros hallazgos indican cómo los participantes calibran su dependencia de la IA en función de su riesgo percibido y los resultados de predicción proporcionados por la IA. Estas ideas contribuyen al desarrollo de sistemas de IA transparentes y explicables que apoyen mejor a los usuarios cotidianos en la mitigación de los daños de los medios sintéticos.
Zhou et al. (Jue,) estudiaron esta cuestión.