Aprendendo representações justas através de uma estrutura adversarial

A justiça tornou-se uma questão central para nossa comunidade de pesquisa à medida que algoritmos de classificação são adotados em domínios socialmente críticos, como previsão de reincidência e aprovação de empréstimos. Neste trabalho, consideramos o potencial viés baseado em atributos protegidos (por exemplo, raça e gênero) e enfrentamos esse problema aprendendo representações latentes de indivíduos que são estatisticamente indistinguíveis entre grupos protegidos, enquanto preservamos informações suficientes para a classificação. Para isso, desenvolvemos uma estrutura adversarial minimax com um gerador para capturar a distribuição de dados e gerar representações latentes, e um crítico para garantir que as distribuições entre diferentes grupos protegidos sejam semelhantes. Nossa estrutura fornece garantia teórica em relação à paridade estatística e justiça individual. Resultados empíricos em quatro conjuntos de dados do mundo real também mostram que a representação aprendida pode ser efetivamente usada para tarefas de classificação, como previsão de risco de crédito, enquanto obstrui informações relacionadas a grupos protegidos, especialmente quando remover atributos protegidos não é suficiente para uma classificação justa.