KITE: Eine verbesserte Schätzung der Übertragbarkeit auf Kernelbasis

Die Schätzung der Übertragbarkeit hat sich als wichtiges Problem im Transferlernen herausgestellt. Eine Methode zur Schätzung der Übertragbarkeit nimmt eine Menge vortrainierter Modelle als Eingaben und entscheidet, welches vortrainierte Modell die beste Leistung im Transferlernen liefern kann. Bestehende Methoden gehen dieses Problem an, indem sie die Ausgabe des vortrainierten Modells analysieren oder das vortrainierte Modell mit einem Probe-Modell vergleichen, das auf dem Ziel-Datensatz trainiert wurde. Keine der Methoden ist jedoch ausreichend, um zuverlässige und effiziente Schätzungen der Übertragbarkeit zu liefern. In diesem Papier präsentieren wir eine neuartige Perspektive und stellen Kite vor, eine verbesserte Schätzung der Übertragbarkeit auf Kernelbasis. Kite basiert auf der Schlüsselbeobachtung, dass die Separierbarkeit der vortrainierten Merkmale und die Ähnlichkeit der vortrainierten Merkmale zu zufälligen Merkmalen zwei wichtige Faktoren für die Schätzung der Übertragbarkeit sind. Inspiriert von Kernelmethoden verwendet Kite eine zentrierte Kernel-Ausrichtung als effektiven Weg zur Bewertung der Merkmalsseparierbarkeit und der Merkmalsähnlichkeit. Kite ist einfach zu interpretieren, schnell zu berechnen und robust gegenüber der Größe des Ziel-Datensatzes. Wir bewerten die Leistung von Kite anhand eines kürzlich eingeführten großflächigen Modellauswahl-Benchmarks. Der Benchmark enthält 8 Quell-Datensätze, 6 Ziel-Datensätze und 4 Architekturen mit insgesamt 32 vortrainierten Modellen. Umfassende Ergebnisse zeigen, dass Kite bestehende Methoden bei der Schätzung der Übertragbarkeit mit großem Abstand übertrifft.