Optimisation des hyperparamètres basée sur des métaheuristiques pour la classification en apprentissage automatique : une étude expérimentale appliquée

La sélection des hyperparamètres est un facteur clé dans la performance prédictive et la généralisation globale des modèles d'apprentissage automatique. Dans des scénarios réels, une mauvaise sélection des hyperparamètres tend à entraîner une performance sous-optimale, malgré l'utilisation d'algorithmes d'apprentissage sophistiqués. Des techniques d'optimisation intelligentes sont couramment adoptées lorsque les méthodes d'ajustement conventionnelles, telles que la recherche en grille et la recherche aléatoire, deviennent impraticables sur le plan computationnel. Dans cet article, une étude expérimentale impliquant l'utilisation de l'optimisation des hyperparamètres basée sur des métaheuristiques pour la classification en apprentissage automatique est décrite. L'étude a utilisé l'optimisation par essaim de particules (PSO), l'algorithme génétique (GA) et l'optimiseur de loup gris (GWO) pour optimiser les hyperparamètres de classificateurs populaires, tels que la machine à vecteurs de support, la forêt aléatoire et les k-plus proches voisins. Un cadre hybride PSO-GWO est également proposé pour intégrer des comportements d'exploration et d'exploitation complémentaires et améliorer la stabilité de convergence et l'efficacité de l'optimisation. Des expériences sur plusieurs ensembles de données de référence du UCI Machine Learning Repository ont révélé que l'optimisation des hyperparamètres utilisant des métaheuristiques surpasse systématiquement les configurations par défaut dans les tâches de classification. De plus, la méthode hybride développée est plus précise et présente un comportement de convergence plus stable, par rapport aux optimisateurs individuels. Ces résultats montrent que les approches métaheuristiques hybrides sont pertinentes et évolutives pour améliorer la classification en apprentissage automatique dans des contextes appliqués.