Soziale Fehlzuweisungen von großen Sprachmodellen adressieren: Ein HCXAI-basierter Ansatz

Der menschenzentrierte erklärbare KI (HCXAI) setzt sich für die Integration sozialer Aspekte in KI-Erklärungen ein. Zentral im HCXAI-Diskurs ist das Rahmenwerk der sozialen Transparenz (ST), das darauf abzielt, den sozio-organisatorischen Kontext von KI-Systemen für deren Nutzer zugänglich zu machen. In dieser Arbeit schlagen wir vor, das ST-Rahmenwerk zu erweitern, um die Risiken sozialer Fehlzuweisungen in großen Sprachmodellen (LLMs) anzugehen, insbesondere in sensiblen Bereichen wie der psychischen Gesundheit. Tatsächlich können LLMs, die bemerkenswert in der Lage sind, Rollen und Persönlichkeiten zu simulieren, zu Diskrepanzen zwischen den Absichten der Designer und den Wahrnehmungen der Nutzer sozialer Attribute führen, was das Risiko birgt, emotionale Manipulationen und gefährliches Verhalten zu fördern, sowie Fälle epistemischer Ungerechtigkeit und unbegründeten Vertrauens. Um diese Probleme zu adressieren, schlagen wir vor, das ST-Rahmenwerk um eine fünfte 'W-Frage' zu erweitern, um die spezifischen sozialen Zuschreibungen, die LLMs von ihren Designern und Nutzern zugewiesen werden, zu klären. Diese Ergänzung zielt darauf ab, die Kluft zwischen den Fähigkeiten von LLMs und den Nutzerwahrnehmungen zu überbrücken, um die ethisch verantwortungsvolle Entwicklung und Nutzung von LLM-basierter Technologie zu fördern.