Erweiterung der Optimierung der Hyperparameter von MLP-ANNs durch den Einsatz eines genetischen Algorithmus

Die Optimierung der Hyperparameter eines mehrschichtigen Perzeptrons (MLP) künstlichen neuronalen Netzwerks (ANN) ist keine triviale Aufgabe, und selbst heute wird häufig der Versuch-und-Irrtum-Ansatz verwendet. Viele Arbeiten haben bereits gezeigt, wie der genetische Algorithmus (GA) bei dieser Optimierungssuche helfen kann, einschließlich der MLP-Topologie, Gewichtung und Bias-Optimierung. Diese Arbeit schlägt vor, Hyperparameter für die Gewichtinitialisierung und Regularisierung hinzuzufügen, die gleichzeitig mit der üblichen MLP-Topologie und den Lernhyperparametern optimiert werden. Sie analysiert auch, welche Hyperparameter stärker mit der Klassifikationsleistung korreliert sind, was eine Reduzierung des Suchraums ermöglicht, der die Zeit und den Rechneraufwand reduziert, um einen guten Satz von Hyperparametern zu erreichen. Die mit öffentlichen Datensätzen erzielten Ergebnisse zeigen eine Leistungssteigerung im Vergleich zu ähnlichen Arbeiten. Außerdem gehören die Hyperparameter, die mit der Gewichtinitialisierung und Regularisierung verbunden sind, zu den 5 relevantesten Hyperparametern, um die Genauigkeitsleistung in allen Datensätzen zu erklären, was die Bedeutung ihrer Einbeziehung in den Optimierungsprozess verdeutlicht.