Une Évaluation Exhaustive de l'Apprentissage Automatique et de l'Apprentissage Profond à Travers Divers Ensembles de Données Tabulaires

L'analyse des ensembles de données tabulaires est très répandue tant dans la recherche scientifique que dans les applications du monde réel de l'Apprentissage Automatique (AA). Contrairement à de nombreuses autres tâches d'AA, les modèles d'Apprentissage Profond (AP) ne surpassent souvent pas les méthodes traditionnelles dans ce domaine. Des évaluations comparatives antérieures ont montré que les performances de l'AP sont fréquemment équivalentes, voire inférieures, à celles de modèles tels que les Machines à Gradient Boosté (MGB). Dans cette étude, nous introduisons une évaluation complète visant à mieux caractériser les types d'ensembles de données où les modèles d'AP excellent. Bien que plusieurs évaluations importantes pour les ensembles de données tabulaires existent déjà, notre contribution réside dans la variété et la profondeur de notre comparaison : nous évaluons 111 ensembles de données avec 20 modèles différents, y compris des tâches de régression et de classification. Ces ensembles de données varient en taille et comprennent des ensembles avec et sans variables catégorielles. Il est important de noter que notre évaluation contient un nombre suffisant d'ensembles de données où les modèles d'AP obtiennent les meilleures performances, permettant une analyse approfondie des conditions sous lesquelles les modèles d'AP excellent. En nous basant sur les résultats de cette évaluation, nous formons un modèle qui prédit les scénarios où les modèles d'AP surpassent les méthodes alternatives avec une précision de 86,1 % (AUC 0,78). Nous présentons des perspectives dérivées de cette caractérisation et comparons ces résultats aux évaluations précédentes.