When a Human Says “No” to a Computer: Frontline Oversight of the Profiling Algorithm in Public Employment Services in Poland

Wenn ein Mensch „Nein“ zu einem Computer sagt: Frontline-Überwachung des Profiling-Algorithmus in öffentlichen Arbeitsverwaltungen in Polen Anhand einer Fallstudie über einen Profiling-Algorithmus, der in lokalen Arbeitsämtern in Polen implementiert wurde, wird der Umgang der Fachkräfte mit dem automatisierten Entscheidungssystems (ADM) untersucht. Den Menschen in die Entscheidungsfindung eines Algorithmus einzubeziehen, wird im digitalen Wohlfahrtsstaat als ein Mechanismus angesehen, um Zuständigkeit zuzuweisen und demokratische Kontrolle zu erlauben. Anhand von Belegen aus Interviews, Dokumenten und Statistiken wird in dem Beitrag näher untersucht, ob und warum ‚Street-Level Bureaucrats‘ auch bei einer kritischen Haltung gegenüber dem Algorithmus zögerten, computergestützten Entscheidungsvorschlägen zu widersprechen. Die Forschung zeigt, dass die Abneigung, automatisch gewonnene Ergebnisse durch Fachkräfte außer Kraft zu setzen, ein kontextabhängiges Phänomen ist, bei dem politische und organisatorische Faktoren eine Rolle spielen, ebenso wie unsichtbare diskretionäre Praktiken, die ADM zu umgehen, ohne sie offen zu korrigieren.