Erklärbare KI im Vertrags- und Deliktsrecht: rechtliche Anreize und technische Herausforderungen

Zusammenfassung Dieser Artikel zeigt, dass das Recht in subtilen Weisen bislang unerkannte Anreize für die Einführung erklärbarer Anwendungen des maschinellen Lernens setzen kann. Dabei leisten wir zwei neuartige Beiträge. Erstens zeigen wir aus rechtlicher Perspektive, dass professionelle Akteure wie Ärzte und Manager bald gesetzlich verpflichtet werden könnten, erklärbare ML-Modelle zu verwenden, um Haftung zu vermeiden. Wir argumentieren, dass die Bedeutung der Erklärbarkeit weit über das Datenschutzrecht hinausgeht und entscheidend Einfluss auf Fragen der vertraglichen und deliktischen Haftung bei der Nutzung von ML-Modellen hat. Zu diesem Zweck führen wir zwei juristische Fallstudien zu medizinischen und unternehmerischen Zusammenführungen von ML durch. Als zweiten Beitrag diskutieren wir den (rechtlich geforderten) Kompromiss zwischen Genauigkeit und Erklärbarkeit und zeigen den Effekt in einer technischen Fallstudie im Kontext der Spam-Klassifizierung.