FairEd: Uma Abordagem Sistemática de Análise de Equidade Aplicada em um Contexto de Educação Superior

As instituições de ensino superior dependem cada vez mais de modelos de aprendizado de máquina. No entanto, um número crescente de evidências mostra que esses algoritmos podem não atender bem comunidades desfavorecidas e, às vezes, discriminar contra elas. Isso é ainda mais preocupante na educação, uma vez que resultados negativos têm implicações de longo prazo. Propomos um processo sistemático para estabelecer, detectar, documentar e relatar riscos de desvantagem. Os resultados da abordagem sistemática são incorporados em uma estrutura chamada FairEd, que ajudaria os tomadores de decisão a entender os riscos de desvantagem ao longo das dimensões de equidade ambiental e analítica. A ferramenta permite decidir (i) se o conjunto de dados contém riscos de desvantagem; (ii) como os modelos podem se comportar ao longo de muitas dimensões de equidade; (iii) se resultados potencialmente desiguais podem ser mitigados sem degradar o desempenho. A abordagem sistemática é aplicada a um estudo de caso de uma universidade chilena, onde se visa construir um modelo preditor de evasão escolar. Primeiro, capturamos as nuances do contexto chileno onde a desvantagem surge ao longo de linhas de renda e grupos demográficos. Em segundo lugar, destacamos o benefício de relatar riscos de desvantagem ao longo de um conjunto diverso de métricas para lançar luz sobre possíveis discriminações. Por fim, descobrimos que medir o custo da equidade é uma quantidade importante a ser relatada ao fazer a seleção do modelo.