Estereótipos de gênero em imagens geradas por IA

Este estudo explora o viés de gênero no local de trabalho em imagens geradas pelo DALL-E 2, uma aplicação para sintetizar imagens com base em inteligência artificial (IA). Para isso, utilizamos um método de amostragem probabilística estratificada, dividindo a amostra em segmentos com base em 37 profissões ou instruções diferentes, replicando o estudo de Farago, Eggum-Wilkens e Zhang (2020) sobre estereótipos de gênero no trabalho. O estudo envolve dois codificadores que inserem manualmente diferentes profissões no gerador de imagens. O DALL-E 2 gerou 9 imagens para cada consulta, e uma amostra de 666 imagens foi coletada, com um nível de confiança de 99% e uma margem de erro de 5%. Cada imagem foi, subsequentemente, avaliada utilizando uma escala Likert de 3 pontos: 1, não estereotípica; 2, moderadamente estereotípica; e 3, fortemente estereotípica. Nosso estudo descobriu que as imagens geradas replicam estereótipos de gênero no local de trabalho. Os resultados apresentados indicam que 21,6% das imagens geradas por IA que retratam profissionais exibem estereótipos completos de mulheres, enquanto 37,8% retratam estereótipos completos de homens. Embora estudos anteriores realizados com humanos tenham encontrado que os estereótipos de gênero no local de trabalho existem, nossa pesquisa mostra que a IA não apenas replica essa estereotipagem, mas a reforça e a aumenta. Consequentemente, enquanto a pesquisa humana sobre viés de gênero indica forte estereotipagem em 35% das instâncias, a IA exibe forte estereotipagem em 59,4% dos casos. Os resultados deste estudo enfatizam a necessidade de uma comunidade de desenvolvimento de IA diversa e inclusiva para servir como base para uma IA mais justa e menos tendenciosa.