Key points are not available for this paper at this time.
Obwohl Erkennungssysteme entwickelt wurden, um obszöne Inhalte wie Pornografie und Gewalt zu identifizieren, ist künstliche Intelligenz einfach noch nicht gut genug, um diese Aufgabe vollständig zu automatisieren. Aufgrund des Bedarfs an manueller Überprüfung können soziale Medienunternehmen interne Prüfer einstellen, spezialisierte Mitarbeiter von Drittfirmen beauftragen oder an Online-Arbeitsmärkte auslagern, um kommerzielle Inhaltsmoderation durchzuführen. Diese Inhaltsmoderatoren sind oft voll den extremen Inhalten ausgesetzt und können dauerhafte psychologische und emotionale Schäden erleiden. In dieser Arbeit zielen wir darauf ab, dieses Problem zu lindern, indem wir die folgende Frage untersuchen: Wie können wir die minimale Informationsmenge an einen menschlichen Prüfer weitergeben, sodass ein anstößiges Bild dennoch korrekt identifiziert werden kann? Wir entwerfen und führen Experimente durch, in denen unscharfe grafische und nicht-grafische Bilder von menschlichen Moderatoren auf Amazon Mechanical Turk (AMT) gefiltert werden. Wir beobachten, wie Verwirrung die Moderationserfahrung bezüglich der Genauigkeit der Bildklassifizierung, der Benutzerfreundlichkeit der Oberfläche und des emotionalen Wohlbefindens der Arbeiter beeinflusst.
Dang et al. (Sun,) haben diese Frage untersucht.