Hyperparameter-Optimierung und kombinierte Datensampling-Techniken im maschinellen Lernen zur Vorhersage von Kundenabwanderung: Eine vergleichende Analyse

Dieses Papier untersucht die Anwendung verschiedener Techniken des maschinellen Lernens zur Vorhersage von Kundenabwanderungen im Telekommunikationssektor. Wir nutzten einen öffentlich zugänglichen Datensatz und implementierten mehrere Modelle, darunter künstliche neuronale Netze, Entscheidungsbäume, Support Vector Machines, Random Forests, logistische Regression und Gradient Boosting-Techniken (XGBoost, LightGBM und CatBoost). Um die Herausforderungen durch unausgeglichene Datensätze zu mildern, nahmen wir verschiedene Datensampling-Strategien an, nämlich SMOTE, SMOTE kombiniert mit Tomek-Links und SMOTE kombiniert mit bearbeiteten nächsten Nachbarn. Zudem wurde Hyperparameter-Tuning eingesetzt, um die Modellleistung zu verbessern. Unsere Evaluierung verwendete Standardmetriken wie Präzision, Sensitivität, F1-Score und die Fläche unter der ROC-Kurve (ROC AUC). In Bezug auf die F1-Score-Metrik zeigt CatBoost eine überlegene Leistung im Vergleich zu anderen Modellen des maschinellen Lernens und erreicht beeindruckende 93 % nach der Anwendung der Hyperparameter-Optimierung mit Optuna. Im Kontext der ROC AUC-Metrik zeigen sowohl XGBoost als auch CatBoost außergewöhnliche Leistungen mit bemerkenswerten Werten von 91 %. Diese Leistung für XGBoost wird erreicht, nachdem eine Kombination von SMOTE mit Tomek-Links implementiert wurde, während CatBoost dieses Leistungsniveau nach der Anwendung der Hyperparameter-Optimierung mit Optuna erreicht.