L'incertitude humaine rend la classification plus robuste

La performance de classification des réseaux neuronaux profonds a commencé à asymptoter à des niveaux presque parfaits. Cependant, leur capacité à généraliser en dehors de l'ensemble d'entraînement et leur robustesse face aux attaques adversariales ne l'ont pas fait. Dans cet article, nous faisons des progrès sur ce problème en entraînant avec des distributions de labels complètes qui reflètent l'incertitude perceptuelle humaine. Nous présentons d'abord un nouvel ensemble de données de référence que nous appelons CIFAR10H, contenant une distribution complète de labels humains pour chaque image de l'ensemble de test CIFAR10. Nous montrons ensuite que, bien que les classificateurs contemporains échouent à montrer une incertitude semblable à celle des humains de leur propre initiative, un entraînement explicite sur notre ensemble de données comble cette lacune, soutient une meilleure généralisation à des ensembles de test de plus en plus éloignés de l'ensemble d'entraînement, et confère une robustesse face aux attaques adversariales.