Equidad de Grupo a través del Consenso del Grupo

Asegurar un impacto equitativo de los modelos de aprendizaje automático en diferentes grupos sociales es de suma importancia para las aplicaciones del aprendizaje automático en el mundo real. La investigación previa en equidad se ha centrado principalmente en ajustar los resultados del modelo a través de técnicas de pre-procesamiento, in-procesamiento o post-procesamiento. Estas técnicas se centran en corregir el sesgo ya sea en los datos o en el modelo. Sin embargo, argumentamos que el sesgo en los datos y en el modelo debe abordarse de manera conjunta. Para lograr esto, proponemos un algoritmo llamado GroupDebias para reducir la injusticia en los datos de una manera guiada por el modelo, permitiendo así que los modelos exhiban un comportamiento más equitativo. Aunque es consciente del modelo, la idea central de GroupDebias es independiente de la arquitectura del modelo, lo que lo convierte en un enfoque versátil y efectivo que puede aplicarse ampliamente en diversos dominios y tipos de modelos. Nuestro método se enfoca en abordar sistemáticamente los sesgos presentes en los datos de entrenamiento en sí, eliminando adaptativamente muestras que aumentan los sesgos en el modelo. Teóricamente, el enfoque propuesto garantiza una mejora en la paridad demográfica a expensas de una reducción limitada en la precisión equilibrada. Una evaluación integral del algoritmo GroupDebias a través de experimentos extensivos en conjuntos de datos diversos y modelos de aprendizaje automático demuestra que GroupDebias supera de manera consistente y significativa las técnicas existentes de mejora de equidad, logrando una reducción más sustancial en la injusticia con un impacto mínimo en el rendimiento del modelo.