Erklärbare KI für Erdbeobachtung: Ein Überblick einschließlich gesellschaftlicher und regulatorischer Perspektiven

Künstliche Intelligenz und maschinelles Lernen sind allgegenwärtig im Bereich der Erdbeobachtung (EO) und Fernerkundung. Entsprechend ihrem Erfolg im Bereich der Computer Vision haben sie sich als hochgenau für EO-Anwendungen erwiesen. Dennoch sollten Experten der EO auch die Schwächen komplexer, maschineller Lernmodelle in Betracht ziehen, bevor sie diese für spezifische Anwendungen übernehmen. Eine solcher Schwäche ist der Mangel an Erklärbarkeit komplexer Deep-Learning-Modelle. Dieses Papier überprüft veröffentlichte Beispiele für erklärbares ML oder erklärbare KI im Bereich der Erdbeobachtung. Erklärbarkeitsmethoden werden klassifiziert als: intrinsisch vs. nachträglich, modell-spezifisch vs. modell-unabhängig und global vs. lokal, wobei Beispiele für jeden Typ bereitgestellt werden. Dieses Papier identifiziert auch zentrale Anforderungen an die Erklärbarkeit, die in den Sozialwissenschaften festgestellt wurden, sowie kommende regulatorische Empfehlungen von der UNESCO zu Ethik der künstlichen Intelligenz und Anforderungen aus dem EU-Entwurf zum Gesetz zur künstlichen Intelligenz und analysiert, ob diese Einschränkungen im Bereich der EO ausreichend adressiert werden. Die Ergebnisse zeigen, dass es an Klarheit fehlt, welche Modelle als interpretierbar angesehen werden können oder nicht. EO-Anwendungen nutzen häufig Random Forests als „interpretierbaren“ Maßstab-Algorithmus zum Vergleich mit komplexen Deep-Learning-Modellen, obwohl Sozialwissenschaften klar argumentieren, dass große Random Forests nicht als solche betrachtet werden können. Zweitens zielen die meisten Erklärungen auf Fachexperten ab und nicht auf potenzielle Nutzer des Algorithmus, Regulierungsbehörden oder diejenigen, die möglicherweise von den Entscheidungen eines Algorithmus betroffen sind. Schließlich neigen Veröffentlichungen dazu, Erklärungen einfach zur Verfügung zu stellen, ohne die Nützlichkeit der Erklärung durch die vorgesehene Zielgruppe zu testen. Angesichts dieser gesellschaftlichen und regulatorischen Überlegungen wird ein Rahmen bereitgestellt, um die Auswahl eines geeigneten maschinellen Lernalgorithmus zu leiten, basierend auf der Verfügbarkeit einfacherer Algorithmen mit hoher prognostischer Genauigkeit sowie dem Zweck und der beabsichtigten Zielgruppe der Erklärung.