Möglichkeiten zur Gestaltung der KI-Governance

Organisationen, die mit mission-kritischen, KI-basierten autonomen Systemen arbeiten, müssen möglicherweise kontinuierliche Risikomanagementkontrollen bereitstellen und Mittel für deren Governance einrichten. Um dies zu erreichen, sind Organisationen gefordert, Vertrauenswürdigkeit und Transparenz in diese Systeme einzubetten, mit menschlicher Überwachung und Verantwortung. Autonome Systeme erlangen Vertrauenswürdigkeit, Transparenz, Qualität und Wartbarkeit durch die Sicherstellung von Ergebnissen, Erklärungen des Verhaltens und Interpretationen der Absicht. Technische, kommerzielle und Marktherausforderungen während des Softwareentwicklungszyklus (SDLC) autonomer Systeme können jedoch zu Kompromissen bei deren Qualität, Wartbarkeit, Interpretierbarkeit und Erklärbarkeit führen. Dieses Papier modelliert konzeptionell die Transformation des SDLC, um Möglichkeiten für Sicherstellung, Erklärungen, Interpretationen und die gesamte Governance in autonomen Systemen zu ermöglichen. Wir argumentieren, dass Möglichkeiten zur Transformation des SDLC durch gemeinsame Interventionen wie das Management technischer Schulden, einen Shift-Left-Ansatz und nicht veränderliche Artefakte verfügbar sind. Dieses Papier trägt zur Theorie und Praxis der Governance autonomer Systeme bei und zur schrittweisen und hierarchischen Schaffung von Vertrauenswürdigkeit.