Evaluación de sesgos y equidad en la IA: un análisis del algoritmo de recomendación de YouTube y su impacto en el discurso geopolítico

Resumen La exposición a información en línea a menudo está determinada por algoritmos de recomendación que introducen sesgos no deseados cuando las plataformas de sistemas de información intentan ofrecer contenido que sea atractivo y relevante para sus usuarios. Una mayor investigación sobre la equidad de los sistemas de recomendación impulsados por IA es crucial para entender el efecto de la tecnología en el comportamiento social. Este estudio subraya la necesidad de investigar más a fondo los sesgos algorítmicos dentro de estos sistemas de información impulsados por IA, particularmente en el contexto del discurso geopolítico. Nuestras investigaciones examinan el comportamiento del algoritmo de recomendación de YouTube en relación con narrativas de la región Indo-Pacífico para identificar posibles sesgos y estudiar el comportamiento de toma de decisiones del algoritmo. Para nuestro análisis, recopilamos videos recomendados a través de cinco profundidades de recomendación que tienen su origen en videos semilla relacionados con nuestras narrativas. Utilizamos análisis de deriva para examinar la evolución de diversas características de los videos, como emoción, sentimiento y contenido en cada profundidad. También se realizó un análisis de red en cada profundidad de videos recomendados para determinar los videos "altamente influyentes" responsables de impulsar las recomendaciones en cada profundidad. Nuestro análisis revela derivaciones dependientes de la narrativa del contenido y la emoción originales presentes en nuestros videos semilla en las recomendaciones de YouTube. También observamos que los videos altamente influyentes en cada profundidad actúan como atractores, dirigiendo contenido a través de recomendaciones donde los atractores en cada profundidad pueden volverse temáticamente no relacionados con el contenido original. Las contribuciones de este análisis añaden una capa de entendimiento a la naturaleza de "caja negra" del algoritmo de recomendación de YouTube. Este estudio también proporciona un enfoque cuantificable para evaluar la equidad en sistemas de información que son capaces de influir en poblaciones vulnerables.