„Ich bin voll und ganz ich selbst“: Stimmen von Transgender- und nicht-binären Personen in den Mittelpunkt stellen, um Vorurteile in der offenen Sprachgenerierung zu messen

Warnung: Dieses Papier enthält Beispiele für geschlechterneutrale Sprache, die beleidigend, verstörend und/oder belastend sein könnte. Transgender- und nicht-binäre (TGNB) Personen erfahren überproportional Diskriminierung und Ausschluss im täglichen Leben. Angesichts der jüngsten Popularität und Übernahme von Technologien zur Sprachgenerierung wächst das Potenzial, diese Bevölkerungsgruppe weiter zu marginalisieren. Obwohl eine Vielzahl von NLP-Fairness-Literatur darauf abzielt, geschlechtliche Vorurteile zu beleuchten und anzugehen, erfordert die Bewertung von Geschlechterschäden für TGNB-Identitäten ein Verständnis dafür, wie solche Identitäten einzigartig mit gesellschaftlichen Geschlechternormen interagieren und wie sie sich von geschlechtsbinären Perspektiven unterscheiden. Solche Messrahmen erfordern es, die Stimmen von TGNB in den Mittelpunkt zu stellen, um die Ausrichtung zwischen genderinklusivem NLP und den Personen, denen es dienen soll, zu lenken. Mit diesem Ziel stützen wir unsere Arbeit auf die TGNB-Community und bestehende interdisziplinäre Literatur, um zu bewerten, wie die soziale Realität der erfahrenen Marginalisierung von TGNB-Personen zur offenen Sprachgenerierung (OLG) beiträgt und innerhalb dieser fortbesteht. Dieses soziale Wissen dient als Leitfaden zur Bewertung beliebter großer Sprachmodelle (LLMs) hinsichtlich zweier zentraler Aspekte: (1) Missgendering und (2) schädliche Reaktionen auf Geschlechteroffenlegungen. Dazu führen wir TANGO ein, einen Datensatz aus template-basierter, realer Text, der aus einer TGNB-orientierten Gemeinschaft kuratiert wurde. Wir entdecken eine Dominanz binärer Geschlechternormen, die sich in den Modellen widerspiegelt; LLMs missgendered Subjekte in generierten Texten am wenigsten, wenn sie durch Aufforderungen ausgelöst wurden, deren Subjekte binäre Pronomen verwendeten. Gleichzeitig war Missgendering am häufigsten, wenn die Generierung mit Singular 'they' und Neopronomen ausgelöst wurde. Bei Geschlechteroffenlegungen ergab die TGNB-Offenlegung die stigmatizansten Formulierungen und erzielte im Durchschnitt die meisten toxischen Ergebnisse. Unsere Ergebnisse rechtfertigen weitere Forschung zu den Manifestationen von TGNB-Schäden in LLMs und dienen als breiterer Fallstudie zur konkreten Verankerung des Designs geschlechterinklusiver KI in den Stimmen der Community und in interdisziplinärer Literatur.