La machine entraîne-t-elle un biais supplémentaire dans l'apprentissage ? Approximations de l'équité dans les modèles rapidement

En fournissant diverses applications d'apprentissage automatique (ML) dans le monde réel, les préoccupations concernant la discrimination cachée dans les modèles ML augmentent, en particulier dans des domaines à enjeux élevés. Les techniques existantes pour évaluer le niveau de discrimination des modèles ML incluent des mesures d'équité de groupe et d'équité individuelle couramment utilisées. Cependant, ces deux types de mesures d'équité sont généralement difficiles à rendre compatibles entre eux, et même deux mesures d'équité de groupe différentes peuvent également être incompatibles. Pour aborder ce problème, nous examinons l'évaluation du niveau de discrimination des classifieurs d'un point de vue des variétés et proposons une "mesure d'équité harmonique via des variétés (HFM)" basée sur les distances entre ensembles. Pourtant, le calcul direct des distances pourrait être trop coûteux, réduisant ainsi son applicabilité pratique. Par conséquent, nous concevons un algorithme d'approximation nommé "Approximation de la distance entre ensembles (ApproxDist)" pour faciliter une estimation précise des distances, et nous démontrons en outre son efficacité algorithmique sous certaines hypothèses raisonnables. Les résultats empiriques indiquent que la mesure d'équité proposée HFM est valide et que l'ApproxDist proposée est efficace et efficiente.