Transparente Governance im automatisierten Zeitalter: Herausforderungen und Lösungen bei der Implementierung von KI in öffentlichen Behörden

Die Integration von künstlicher Intelligenz in die Verwaltungsgovernance hat die öffentliche Entscheidungsfindung transformiert, gleichzeitig jedoch das Grundprinzip der Transparenz im Verwaltungsrecht in Frage gestellt. Durch eine vergleichende rechtliche Analyse untersucht dieses Papier, wie automatisierte Entscheidungssysteme – insbesondere der OCI („Robo-Debt“) Fall – Mängel in Bezug auf verfahrensmäßige Fairness, Erklärbarkeit und Rechenschaftspflicht aufdecken. Es identifiziert die algorithmische „Black Box“ als strukturelle Barriere zur Transparenz, die den Rechtsstaat und das Vertrauen der Bürger in die Regierung untergräbt. Die Studie argumentiert, dass die Einbettung von erklärbarer künstlicher Intelligenz (XAI) in administrative Prozesse eine rechtlich-technische Lösung bietet, um Automatisierung mit Transparenz in Einklang zu bringen. Durch die Verknüpfung der algorithmischen Governance mit bestehenden Grundsätzen der Verwaltungsüberprüfung ermöglicht XAI die Interpretierbarkeit, Begründbarkeit und Anfechtbarkeit automatisierter Entscheidungen und stärkt so die demokratische Legitimität im Zeitalter der algorithmischen Verwaltung.