Hintergrund: Der Anstieg der Hassrede in sozialen Medien, insbesondere während der COVID-19-Pandemie, stellt ernsthafte Bedrohungen für das psychische Wohlbefinden und den sozialen Zusammenhalt dar. Während automatisierte Erkennungstools existieren, fehlt es oft an der Fähigkeit, den Kontext und kulturelle Nuancen zu erfassen. Diese Studie untersucht die Integration der Kritischen Diskursanalyse, um die Genauigkeit und Fairness der Erkennung toxischer Sprache auf digitalen Plattformen zu verbessern. Ziel: Diese Studie zielt darauf ab, toxische Sprache in sozialen Medien zu untersuchen, indem eine automatisierte Erkennungsmethode auf Basis von maschinellem Lernen mit Kritischer Diskursanalyse (CDA) integriert wird, um zu verstehen, wie Hassrede in digitalen Räumen produziert, verbreitet und normalisiert wird. Methode: Diese Studie verwendet ein qualitativ-kritisches Design. Daten wurden durch das Crawlen öffentlicher Beiträge auf sozialen Medienplattformen (Twitter und Facebook) unter Verwendung spezifischer Schlüsselwörter gesammelt. Das Screening toxischer Sprache wurde mit einem BERT-basierten Klassifikationsmodell für maschinelles Lernen durchgeführt. Aus den automatischen Ergebnissen wurden 200 Beiträge gezielt für die weitere Analyse mit CDA ausgewählt, wobei der Fokus auf Textstruktur, diskursiven Praktiken und sozialen Praktiken lag. Ergebnis: Die Ergebnisse zeigen, dass 25,67 % der analysierten 15.000 Beiträge als toxische Sprache klassifiziert wurden. Die CDA-Analyse deckte auf, dass viel toxische Sprache nicht explizit erschien, sondern durch Ironie, Humor und Metaphern verschleiert wurde. Die häufigsten Zielgruppen der Hassrede waren Rassenfragen (45 %), gefolgt von Religion (28 %), Geschlecht (15 %) und sexueller Orientierung (12 %). Soziale Medien dienen nicht nur als Medium für individuelle Verbreitung, sondern auch als Arena für die Reproduktion diskriminierender Ideologien. Fazit: Diese Studie leistet methodische Beiträge zur Entwicklung fairerer und kontextuell besserer Systeme zur Moderation digitaler Inhalte und bietet eine Grundlage für politische Entscheidungsträger, um wirksamere Regulierungen zum Schutz digitaler Räume vor Hassrede umzusetzen.
Kusuma et al. (Sun,) untersuchten diese Frage.