Die Bedeutung von Chancengleichheit in der Verarbeitung natürlicher Sprache (NLP) hat zugenommen, da KI-Systeme zunehmend vielfältige Bevölkerungen beeinflussen. Die Bewertung von Benchmarking für verantwortungsvolle Bereitstellung umfasst Protokolle, die mit Sicherheit bestimmen können und Verzerrungen in Gruppen, die durch demografische Merkmale definiert sind, minimieren. Die bestehenden Bewertungsprozesse sind darauf ausgelegt, die Modellleistung als eine einzelne Punktzahl oder eine aggregierte Leistungsmaßnahme zu messen, was feingranulare Ungleichheiten oder Unterschiede basierend auf sensiblen Attributen, wie Geschlecht, Rasse oder Altersstufen, nicht aufdecken kann. Diese Arten von Bewertungen spiegeln keine Ungleichheiten oder Unfairness wider, wenn spezifische Ergebnisse in einem Modell downstream verzerrt sind. Um diese Lücke zu schließen, führen wir ein System zur kontrastiven Fairnessbewertung (CFE) ein, das kontrastierende Eingaben in Form eines Satzpaars mit allen genauen Wörtern, jedoch unterschiedlichen sensiblen Attributen verwendet, um die Fairness eines bestimmten Modells zu bewerten. Der CFE-Ansatz nutzt die Ähnlichkeit und Divergenz der Modellvorhersagen der beiden Eingabepaare, die auf Ebene der Ergebnisse gemessen werden, als Einheit zur Bewertung von Ungleichheiten. Der CFE bietet einen numerischen Score, der die kontrastiven Unterschiede in den Ergebnissen erfasst, in Übereinstimmung mit etablierten Fairnessbewertungen, wie demografischer Parität oder gleichen Chancen. Darüber hinaus kann der Rahmen eine verständlichere und zuverlässigere Bewertung der Modellgleichheit bieten. CFE wird demonstriert, um Gleichheit in der maschinellen Übersetzung und der Sentimentanalyse (in Bezug auf Geschlecht und Rasse) zu bewerten, indem subtile Geschlechter- und Rassenverzerrungen in den Modellergebnissen für beide Aufgaben offengelegt werden. Darüber hinaus ermöglicht der Ansatz die effektive Identifizierung von Ungleichheiten und bietet gleichzeitig umsetzbares Feedback für zusätzliche Schulungen, um Strategien zur Behebung der Modellungleichheiten zu planen und die Bereitstellungen verantwortungsvoller und gerechter zu gestalten.
Khan et al. (Thu,) haben diese Frage untersucht.