Fünf Quellen von Bias in der Verarbeitung natürlicher Sprache

In letzter Zeit hat das Interesse an demografisch verankertem Bias in Anwendungen der Verarbeitung natürlicher Sprache (NLP) zugenommen. Vieler recenten Arbeiten konzentrierten sich darauf, Bias zu beschreiben und einen Überblick über Bias im größeren Kontext zu geben. Hier bieten wir eine einfache, umsetzbare Zusammenfassung dieser aktuellen Arbeiten. Wir skizzieren fünf Quellen, wo Bias in NLP-Systemen auftreten kann: (1) die Daten, (2) der Annotierungsprozess, (3) die Eingaberepräsentationen, (4) die Modelle und schließlich (5) das Forschungsdesign (oder wie wir unsere Forschung konzipieren). In diesem Artikel beleuchten wir jede der Bias-Quellen im Detail, einschließlich Beispiele und Links zu verwandten Arbeiten sowie mögliche Gegenmaßnahmen.