Für wen interpretiert? Ein rollenbasiertes Modell zur Analyse interpretierbarer maschineller Lernsysteme

Mehrere Forscher haben argumentiert, dass ein maschinelles Lernsystem in Bezug auf einen bestimmten Agenten oder eine bestimmte Aufgabe definiert werden sollte: Wir fragen nicht, ob das System interpretierbar ist, sondern für wen es interpretierbar ist. Wir beschreiben ein Modell, das helfen soll, diese Frage zu beantworten, indem es Rollen identifiziert, die Agenten in Bezug auf das maschinelle Lernen erfüllen können. Wir illustrieren die Verwendung unseres Modells in verschiedenen Szenarien und untersuchen, wie die Rolle eines Agenten seine Ziele beeinflusst und welche Implikationen dies für die Definition hat. Schließlich geben wir Vorschläge, wie unser Modell für Forscher zur Interpretierbarkeit, Systementwickler und regulatorische Prüfungen von maschinellen Lernsystemen nützlich sein könnte.