Manipulation von maschinellem Lernen: Vergiftungsangriffe und Gegenmaßnahmen für Regressionslernen

Da maschinelles Lernen zunehmend für automatisierte Entscheidungen eingesetzt wird, haben Angreifer starke Anreize, die Ergebnisse und Modelle, die von maschinellen Lernalgorithmen generiert werden, zu manipulieren. In diesem Papier führen wir die erste systematische Studie über Vergiftungsangriffe und deren Gegenmaßnahmen für lineare Regressionsmodelle durch. Bei Vergiftungsangriffen beeinflussen Angreifer absichtlich die Trainingsdaten, um die Ergebnisse eines prädiktiven Modells zu manipulieren. Wir schlagen einen theoretisch fundierten Optimierungsrahmen vor, der speziell für die lineare Regression entworfen wurde, und zeigen seine Wirksamkeit anhand verschiedener Datensätze und Modelle. Außerdem führen wir einen schnellen statistischen Angriff ein, der nur begrenztes Wissen über den Trainingsprozess erfordert. Zum Schluss entwerfen wir eine neue, prinzipienbasierte Verteidigungsmethode, die höchst widerstandsfähig gegen alle Vergiftungsangriffe ist. Wir geben formale Garantien über ihre Konvergenz und eine obere Schranke für den Effekt von Vergiftungsangriffen an, wenn die Verteidigung implementiert ist. Wir evaluieren intensiv unsere Angriffe und Verteidigungen anhand von drei realistischen Datensätzen aus den Bereichen Gesundheitswesen, Kreditbewertung und Immobilien.