Dieses Papier untersucht KI-generierte Halluzinationen nicht nur als technische unbeabsichtigte Ausgaben generativer Systeme, sondern als grundlegende Ergebnisse der Art und Weise, wie diese Modelle Bedeutung konstruieren und Informationslücken füllen. Im politischen Bereich, wo Glaubwürdigkeit, Genauigkeit und öffentliches Vertrauen besonderes Gewicht haben, erhöht solches Output das Risiko von Fehlinformationen, verstärkt die Polarisierung und trägt zur wachsenden Unsicherheit darüber bei, was real ist. Mithilfe eines qualitativen Ansatzes, der eine strukturierte Überprüfung der vorhandenen Literature mit einer Mehrfallanalyse von synthetischen politischen Inhalten, einschließlich kurzer Deepfake-Videos und künstlicher Audiodateien, die während Wahlperioden verbreitet wurden, kombiniert, verfolgt die Studie, wie Halluzinationen in die politische Kommunikation eintreten und zirkulieren. Die Ergebnisse zeigen, dass algorithmische Aufmerksamkeitsysteme dazu tendieren, emotional aufgeladene und personalisierte Materialien zu fördern, wodurch synthetische Inhalte neben oder sogar über authentischen politischen Nachrichten erscheinen können. Diese Vermischung von Quellen erschwert es den Bürgern, das Echte zu erkennen, insbesondere in schnelllebigen digitalen Umgebungen. Das Papier argumentiert, dass diese Risiken eine lagengerechte Reaktion erfordern. Regulatorische Sicherheitsvorkehrungen, klarere Herkunfts- und Kennzeichnungsmechanismen sowie nachhaltige Investitionen in digitale Kompetenz können helfen, die demokratischen Schäden im Zusammenhang mit synthetischen Medien zu begrenzen. Gleichzeitig können solche Maßnahmen Raum für konstruktive und transparente Anwendungen von KI in der politischen und wahlbezogenen Kommunikation schaffen, um sicherzustellen, dass technologische Innovation die Grundlagen des demokratischen Vertrauens nicht untergräbt.
Bebić et al. (Mittwoch) haben diese Frage untersucht.