Über algorithmische Offenlegung für generative KI

Eine der am häufigsten empfohlenen politischen Interventionen in Bezug auf Algorithmen im Allgemeinen und auf künstliche Intelligenz ("KI")-Systeme im Besonderen ist die Notwendigkeit einer größeren Transparenz, die oft auf die Offenlegung der vom Algorithmus verwendeten Variablen und der den Variablen zugewiesenen Gewichtungen fokussiert. Dieser Essay argumentiert, dass ein sinnvolles Transparenzregime auch Informationen zu anderen kritischen Dimensionen bereitstellen muss. Beispielsweise muss ein Transparenzregime auch zentrale Informationen über die Daten, auf denen der Algorithmus trainiert wurde, einschließlich ihrer Quelle, Reichweite, Qualität und inneren Korrelationen, berücksichtigen, vorbehaltlich der durch Urheberrecht, Datenschutz und Cybersicherheitsgesetze auferlegten Einschränkungen. Offenlegungen über Tests vor der Veröffentlichung spielen ebenfalls eine kritische Rolle beim Verständnis der Robustheit eines KI-Systems und seiner Anfälligkeit für Spezifikationsspiel. Schließlich zeigt die Tatsache, dass KI, wie alle komplexen Systeme, dazu neigt, emergente Phänomene zu zeigen, wie z. B. Proxy-Diskriminierung, Interaktionen zwischen mehreren Agenten, die Auswirkungen ungünstiger Umgebungen und die wohlerzogene Tendenz generativer KI zu halluzinieren, dass die fortlaufende Bewertung nach der Veröffentlichung ein kritischer Bestandteil eines jeden Systems der KI-Transparenz ist.