L'impact de la sélection K dans la validation croisée en K‑plis sur le biais et la variance des modèles d'apprentissage supervisé

La validation croisée en K-plis est une technique largement utilisée pour estimer la généralisation de la performance des modèles d'apprentissage automatique supervisés. Cependant, l'effet du nombre de plis (k) sur le comportement biais-variance à travers les modèles et les ensembles de données n'est pas complètement compris. Cette étude examine comment la variation de k, de 3 à 20, est liée aux estimations de biais et de variance à travers quatre algorithmes de classification, évalués sur douze ensembles de données de tailles variées. Ces quatre algorithmes sont la machine à vecteurs de support (SVM), l'arbre de décision (DT), la régression logistique (LR) et les k-plus proches voisins (KNN). Nous opérationnalisons le biais comme la différence entre la précision d'entraînement validée en croisée moyenne et la précision de test retenue, et la variance comme la variabilité de la précision à travers les plis. Dans tous les algorithmes et ensembles de données considérés, la variance a augmenté avec l'augmentation de k, indiquant que des valeurs plus élevées de k peuvent donner des estimations moins stables d'un pli à l'autre dans notre contexte. Les tendances de biais étaient dépendantes des algorithmes et des ensembles de données : KNN et SVM ont le plus souvent montré un biais à la hausse avec l'augmentation de k, alors que le DT était relativement équilibré, et LR a montré des motifs mixtes. Ces résultats, bien que limités aux modèles, métriques et ensembles de données étudiés, suggèrent que les choix par défaut d'un k fixe (par exemple, 5 ou 10) peuvent ne pas être universellement optimaux. Nous fournissons du code et des scripts de prétraitement des données pour permettre une réplication complète et encourageons des investigations supplémentaires sur des stratégies de validation adaptatives, sensibles aux modèles et aux données.