Saisonaler Kontrast: Unüberwachtes Vor-Training mit unkuratierten Fernerkundungsdaten

Fernerkundung und automatische Erdüberwachung sind entscheidend zur Lösung globaler Herausforderungen wie Katastrophenschutz, Überwachung der Landnutzung oder Bekämpfung des Klimawandels. Obwohl es eine riesige Menge an Fernerkundungsdaten gibt, bleiben die meisten unbeschriftet und somit für überwachte Lernalgorithmen unzugänglich. Transfer-Lernansätze können die Datenanforderungen von Deep-Learning-Algorithmen reduzieren. Allerdings werden die meisten dieser Methoden auf ImageNet vortrainiert, und ihre Generalisierung auf Fernerkundungsbilder ist aufgrund der Domänenlücke nicht garantiert. In dieser Arbeit schlagen wir den Saisonalen Kontrast (SeCo) vor, eine effektive Pipeline zur Nutzung unbeschrifteter Daten für das In-Domain-Vortraining von Fernerkundungsrepräsentationen. Die SeCo-Pipeline besteht aus zwei Teilen. Zuerst ein prinzipielles Verfahren zur Sammlung großangelegter, unbeschrifteter und unkuratierter Fernerkundungsdatensätze, die Bilder von mehreren Standorten der Erde zu verschiedenen Zeitpunkten enthalten. Zweitens ein selbstüberwachter Algorithmus, der zeitliche und positionsinvariante Eigenschaften nutzt, um übertragbare Repräsentationen für Anwendungen der Fernerkundung zu lernen. Wir zeigen empirisch, dass Modelle, die mit SeCo trainiert werden, eine bessere Leistung erzielen als ihre auf ImageNet vortrainierten Pendants und die besten selbstüberwachten Lernmethoden in mehreren nachgelagerten Aufgaben. Die Datensätze und Modelle in SeCo werden veröffentlicht, um Transferlernen zu erleichtern und einen schnellen Fortschritt in der Fernerkundungsanwendung zu ermöglichen.