Gruppenfairness durch Gruppenkonsens

Die Gewährleistung eines gerechten Einflusses von Machine-Learning-Modellen auf verschiedene gesellschaftliche Gruppen ist von größter Bedeutung für reale Anwendungen des Machine Learning. Frühere Forschungen zur Fairness konzentrierten sich hauptsächlich darauf, Modelloutputs durch Vorverarbeitungs-, Verarbeitungs- oder Nachverarbeitungstechniken anzupassen. Diese Techniken zielen darauf ab, Verzerrungen entweder in den Daten oder im Modell zu korrigieren. Wir argumentieren jedoch, dass die Verzerrung in den Daten und im Modell gemeinsam angegangen werden sollte. Um dies zu erreichen, schlagen wir einen Algorithmus namens GroupDebias vor, um Ungerechtigkeiten in den Daten auf modellgeführte Weise zu reduzieren, sodass Modelle ein gerechteres Verhalten zeigen können. Obwohl er modellbewusst ist, ist die Kernidee von GroupDebias unabhängig von der Modellarchitektur, was ihn zu einem vielseitigen und effektiven Ansatz macht, der in verschiedenen Bereichen und Modellen breit anwendbar ist. Unsere Methode konzentriert sich darauf, systematisch die in den Trainingsdaten selbst vorhandenen Verzerrungen anzugehen, indem sie adaptiv Proben herausnimmt, die die Verzerrungen im Modell erhöhen. Theoretisch genießt der vorgeschlagene Ansatz eine garantierte Verbesserung der demografischen Parität auf Kosten einer begrenzten Verringerung der ausgewogenen Genauigkeit. Eine umfassende Bewertung des GroupDebias-Algorithmus durch umfangreiche Experimente an verschiedenen Datensätzen und Machine-Learning-Modellen zeigt, dass GroupDebias bestehende Techniken zur Verbesserung der Fairness konsistent und signifikant übertrifft und eine substanzielle Verringerung der Ungerechtigkeit mit minimalen Auswirkungen auf die Modellleistung erreicht.