Deep Subdomain Adaptation Network für die Bildklassifikation

Für eine Zielaufgabe, bei der die beschrifteten Daten nicht verfügbar sind, kann die Domänenanpassung einen Lernenden von einem anderen Quellbereich übertragen. Bisherige tiefen Domänenanpassungsmethoden lernen hauptsächlich einen globalen Domänenwechsel, d.h. sie stimmen die globalen Quell- und Zielverteilungen ab, ohne die Beziehungen zwischen zwei Subdomänen innerhalb derselben Kategorie unterschiedlicher Domänen zu berücksichtigen, was zu unzufriedenstellenden Transferlernergebnissen führt, ohne die feingranularen Informationen zu erfassen. In letzter Zeit richten immer mehr Forscher ihre Aufmerksamkeit auf die Subdomänenanpassung, die sich auf die genaue Abstimmung der Verteilungen der relevanten Subdomänen konzentriert. Viele von ihnen sind jedoch adversarielle Methoden, die mehrere Verlustfunktionen enthalten und langsam konvergieren. Basierend darauf präsentieren wir ein tiefes Subdomänenanpassungsnetzwerk (DSAN), das ein Übertragungsnetzwerk lernt, indem es die relevanten Subdomänenverteilungen der domänenspezifischen Schichtaktivierungen über verschiedene Domänen hinweg auf der Basis eines lokalen Maximum Mean Discrepancy (LMMD) abstimmt. Unser DSAN ist sehr einfach, aber effektiv, benötigt kein adversariales Training und konvergiert schnell. Die Anpassung kann leicht mit den meisten Feedforward-Netzwerkmodellen erreicht werden, indem sie mit LMMD-Verlust erweitert werden, der effizient über Rückpropagation trainiert werden kann. Experimente zeigen, dass DSAN bemerkenswerte Ergebnisse sowohl bei Objekterkennung Aufgaben als auch bei Ziffernklassifikationsaufgaben erzielen kann. Unser Code wird unter https://github.com/easezyc/deep-transfer-learning verfügbar sein.