Künstliche Intelligenz Ko-Regulierung? Die Rolle von Standards im EU AI-Gesetz

Zusammenfassung Dieser Artikel untersucht die Ko-Regulierung von künstlicher Intelligenz (KI) im EU AI-Gesetz und die wichtige Rolle von Standards in dieser Regulierungsstrategie. Er befasst sich mit der Grundlage der demokratischen Legitimität in der EU-Normung und betont die Notwendigkeit von Reformen, um mit der raschen Entwicklung der KI-Fähigkeiten Schritt zu halten, wie jüngst vom Europäischen Parlament vorgeschlagen. Der Artikel hebt die Herausforderungen hervor, die sich aus der Interdisziplinarität und dem Mangel an Expertise der Zivilgesellschaft im Bereich der Normsetzung ergeben. Er kritisiert die unzureichende Vertretung gesellschaftlicher Interessengruppen bei der Entwicklung von KI-Standards und stellt drängende Fragen zu den potenziellen Risiken, die dies für den Schutz der Grundrechte mit sich bringt, angesichts des Mangels an demokratischer Aufsicht und der globalen Zusammensetzung von Standards entwickelnden Organisationen. Der Artikel untersucht, wie technische Standards unter dem AI-Gesetz KI-Risiken und Minderungsmaßnahmen definieren werden und hinterfragt, ob technische Experten angemessen ausgestattet sind, um Schwellenwerte für akzeptable Rest-Risiken in verschiedenen Hochrisikokontexten zu standardisieren. Spezieller betrachtet der Artikel die Komplexität der Regulierung von KI und lenkt die Aufmerksamkeit auf die multidimensionale Natur der Identifizierung von Risiken in KI-Systemen und die wertbeladene Natur der Aufgabe. Er stellt die potenzielle Schaffung einer Typologie von KI-Risiken in Frage und hebt die Notwendigkeit eines nuancierten, integrativen und kontextspezifischen Ansatzes zur Risikoidentifizierung und -minderung hervor. Folglich unterstreichen wir im Artikel die Notwendigkeit einer kontinuierlichen Einbeziehung der Interessengruppen bei der Entwicklung, Überwachung und Verfeinerung der technischen Regeln und Standards für Hochrisiko-KI-Anwendungen. Wir betonen auch die Notwendigkeit strenger Schulungs-, Zertifizierungs- und Überwachungsmaßnahmen, um die Durchsetzung der Grundrechte angesichts der Entwicklungen in der KI sicherzustellen. Schließlich empfehlen wir eine größere Transparenz und Inklusivität in den Methoden zur Risikoidentifizierung und plädieren für Ansätze, die die Beteiligung von Interessengruppen erfordern und ein vielfältiges Fähigkeitsprofil für die Risikoevaluierung benötigen. Gleichzeitig richten wir auch die Aufmerksamkeit auf die Diversität innerhalb der Europäischen Union und die daraus resultierende Notwendigkeit für lokalisierte Risikoanalysen, die nationale Kontexte, Sprachen, Institutionen und Kulturen berücksichtigen. Abschließend argumentiert der Artikel, dass die Ko-Regulierung unter dem AI-Gesetz eine gründliche erneute Prüfung und Reform der Normsetzungsprozesse erfordert, um einen demokratisch legitimen, interdisziplinären, interessenvertretenen und reaktionsfähigen Ansatz zur KI-Regulierung zu gewährleisten, der die Grundrechte schützen und ein breites Spektrum an KI-Risiken antizipieren, identifizieren und mindern kann.