October 2, 2025Open Access
View Full PaperHyperparameter-Optimierung in der differentiellen Evolution mit summierten lokalen Differenzstrings, einer raue, aber einfach zu berechnenden Landschaft für kombinatorische Suchprobleme
Key Points
- Die Verwendung einer neuartigen Ziel-Funktion verbesserte die Hyperparameter-Tuning in der differentiellen Evolution erheblich.
- Die Ergebnisse zeigten, dass die Ausgaben der Ziel-Funktion effektiv zwischen 0 und (N-1) ? (max-min) liegen.
- Ein neuronales Netzwerk, das auf variierenden Hyperparametern trainiert wurde, zeigte vielversprechende Ergebnisse im Vergleich zu traditionellen Methoden.
- Diese Ergebnisse weisen auf das Potenzial hin, lokale Differenzstrings als effektive Werkzeuge in der Hyperparameter-Optimierung zu verwenden.
Abstract
Wir analysieren die Effektivität von Hyperparametern der differentiellen Evolution in großangelegten Suchproblemen, d.h. solchen mit sehr vielen Variablen oder Vektorelementen, unter Verwendung einer neuartigen Ziel-Funktion, die einfach aus dem Vektor/String selbst berechnet werden kann. Die Ziel-Funktion ist einfach die Summe der Unterschiede zwischen benachbarten Elementen. Für sowohl binäre als auch reelle Elemente, deren kleinste und größte Werte min und max in einem Vektor der Länge N sind, liegt der Wert der Ziel-Funktion zwischen 0 und (N-1) ? (max-min) und kann daher leicht normalisiert werden, wenn gewünscht. Die Stringlänge, die Populationsgröße und die Generationen für die Berechnungsiterationen wurden untersucht. Schließlich wird ein neuronales Netzwerk trainiert, indem drei Hyperparameter systematisch variiert werden, nämlich Population (NP), Mutationsfaktor (F) und Kreuzungsrate (CR), und zwei Ausgabezielvariablen werden gesammelt (a) Median (b) maximale Kostenfunktionswerte aus 10-Versuchs-Experimenten und mit SMAC3 und OPTUNA im Vergleich zu Gitter- und Zufalls-Suche verglichen.