Ein Rahmenwerk für die quantitative Sicherheitsanalyse von maschinellem Lernen

Wir schlagen ein Rahmenwerk für die quantitative Sicherheitsanalyse von Methoden des maschinellen Lernens vor. Die wesentlichen Teile dieses Rahmenwerks sind die formale Spezifikation eines implementierten Lernmodells und der Einschränkungen des Angreifers, die Berechnung eines optimalen Angriffs und die Ableitung einer oberen Grenze für die Auswirkungen von adversarialen Angriffen. Wir wenden das Rahmenwerk exemplarisch auf die Analyse eines spezifischen Lernszenarios, der Online-Zentroid-Anomalieerkennung, an und überprüfen experimentell die Schärfe der erhaltenen theoretischen Grenzen.