Comprensión y evaluación de los daños de los pies de foto generados por IA en imágenes políticas

El uso de pies de foto generados por IA ha ido en aumento. Los especialistas en estudios sobre discapacidad llevan mucho tiempo estudiando los problemas de accesibilidad y de IA relacionados con el sesgo tecnológico, centrándose en los pies de foto y las etiquetas de las imágenes. Sin embargo, se ha prestado menos atención a los individuos y grupos sociales representados en las imágenes y descritos mediante IA. Se necesita más investigación para comprender los daños representacionales subyacentes que podrían afectar a estos grupos sociales. Este artículo investiga los posibles daños representacionales para los grupos sociales representados en imágenes. Existe un alto riesgo de perjudicar a ciertos grupos sociales, ya sea mediante descripciones estereotipadas o borrando sus identidades del pie de foto, lo que podría afectar la comprensión, las creencias y las actitudes que las personas tienen sobre estos grupos específicos. Para los fines de este artículo, se recopilaron 1.000 imágenes con pies de foto anotados por humanos procedentes de las secciones de «política» de agencias de noticias. Se utilizó Microsoft's Azure Cloud Services para generar pies de foto mediante IA con la versión pública de diciembre de 2021. El patrón observado a partir de las imágenes políticamente relevantes recopiladas y sus pies de foto destaca la tendencia del modelo utilizado a generar descripciones más genéricas, lo que potencialmente puede perjudicar a los grupos sociales infrarrepresentados o tergiversados. En consecuencia, es necesario lograr un equilibrio entre estos daños, el cual está entrelazado con el dilema entre generar descripciones genéricas frente a específicas. La decisión de generar descripciones genéricas, siendo extremadamente cautelosos para no utilizar estereotipos, borra y menosprecia a grupos sociales excluidos y ya subrepresentados, mientras que la decisión de generar descripciones específicas estereotipa a los grupos sociales además de cosificarlos. Por lo tanto, lograr un equilibrio adecuado es crucial, especialmente al examinar imágenes políticamente relevantes.