Key points are not available for this paper at this time.
Les réseaux de neurones sont connus pour être vulnérables aux exemples adverses : des entrées qui sont proches des entrées naturelles mais classées incorrectement. Afin de mieux comprendre l'espace des exemples adverses, nous avons examiné dix propositions récentes conçues pour la détection et comparé leur efficacité. Nous montrons que toutes peuvent être contournées en construisant de nouvelles fonctions de perte. Nous concluons que les exemples adverses sont significativement plus difficiles à détecter que ce qui était précédemment apprécié, et les propriétés considérées comme intrinsèques aux exemples adverses ne le sont en réalité pas. Enfin, nous proposons plusieurs directives simples pour évaluer les futures défenses proposées.
Carlini et al. (Fri,) ont étudié cette question.