Privacidade a um Custo: Explorando seu Duplo Impacto na Justiça da IA

A adoção global de modelos de machine learning (ML) e deep learning, particularmente em setores críticos, como saúde e finanças, apresenta desafios substanciais na manutenção da privacidade individual e da justiça. Esses dois elementos são vitais para um ambiente confiável para sistemas de aprendizado. Embora numerosos estudos tenham se concentrado em proteger a privacidade individual por meio de mecanismos de privacidade diferencial (DP), pesquisas emergentes indicam que a privacidade diferencial em modelos de machine learning pode impactar de maneira desigual subgrupos demográficos distintos em relação à precisão das previsões. Isso leva a uma preocupação com a justiça e se manifesta como desempenho tendencioso. Embora a visão predominante seja que aprimorar a privacidade intensifica as disparidades de justiça, um subconjunto menor, mas significativo, da pesquisa sugere a visão oposta. Neste artigo, com extensos resultados de avaliação, demonstramos que o impacto da privacidade diferencial na justiça não é monótono. Em vez disso, observamos que a disparidade de precisão inicialmente cresce à medida que mais ruído DP (privacidade aprimorada) é adicionado ao processo de ML, mas subsequentemente diminui em níveis mais altos de privacidade com ainda mais ruído. Além disso, implementar recorte de gradiente no método de descida de gradiente estocástico diferencialmente privado pode mitigar o impacto negativo do ruído DP na justiça. Essa mitigação é alcançada moderando o crescimento da disparidade por meio de um limite de recorte mais baixo.