OBJETIVO: Atribuição, Interpretação, Mitigação da Injustiça nos Dados

Os dados coletados no mundo real costumam encapsular discriminação histórica contra grupos e indivíduos desfavorecidos. A pesquisa existente em aprendizado de máquina justo (FairML) focou predominantemente na mitigação do viés discriminatório na predição do modelo, com muito menos esforço dedicado à exploração de como rastrear viéses presentes nos dados, apesar da sua importância para a transparência e interpretabilidade do FairML. Para preencher essa lacuna, investigamos um novo problema de pesquisa: descobrir amostras que refletem viéses/preconceitos dos dados de treinamento. Baseando-nos nas noções existentes de justiça, estabelecemos um critério de viés amostral e propomos algoritmos práticos para medir e combater o viés amostral. O escore de viés derivado proporciona uma atribuição e explicação intuitiva do viés histórico nos dados a nível de amostra. Com base nisso, projetamos ainda duas estratégias de FairML via edição mínima de dados informada pelo viés amostral. Elas podem mitigar tanto a injustiça em grupo quanto a individual a um custo de perda mínima ou zero de utilidade preditiva. Extensos experimentos e análises em múltiplos conjuntos de dados do mundo real demonstram a eficácia de nossos métodos em explicar e mitigar a injustiça. O código está disponível em https://github.com/ZhiningLiu1998/AIM.