Eine Umfrage zu differenziell privatem maschinellen Lernen: Übersichtsartikel

In den letzten Jahren gab es bemerkenswerte Erfolge des maschinellen Lernens in verschiedenen Anwendungen. Allerdings leiden Modelle des maschinellen Lernens unter einem potenziellen Risiko, private Informationen, die in Trainingsdaten enthalten sind, offenzulegen, was zunehmende Forschung Aufmerksamkeit erregt hat. Als eine der Mainstream-Techniken zum Schutz der Privatsphäre bietet die differenzielle Privatsphäre einen vielversprechenden Weg, um die Offenlegung individueller Privatsphäre in Trainingsdaten zu verhindern, während die Qualität der Trainingsdaten für den Modellbau erhalten bleibt. Diese Arbeit bietet eine umfassende Umfrage zu bestehenden Arbeiten, die differenzielle Privatsphäre mit maschinellem Lernen kombinieren, dem so genannten differenziell privaten maschinellen Lernen, und kategorisiert sie in zwei breite Kategorien entsprechend den verschiedenen Mechanismen der differenziellen Privatsphäre: den Laplace/Gaussian/exponentiellen Mechanismus und den Output/Zielstörung-Mechanismus. Im ersteren wird eine kalibrierte Menge an Rauschen zum nicht-privaten Modell hinzugefügt und im letzteren wird die Ausgabe oder die Zielfunktion durch Zufallsrauschen gestört. Besonders werden in der Umfrage die Techniken des differenziell privaten Deep Learning behandelt, um die jüngsten Bedenken hinsichtlich der Privatsphäre von Beiträgern großer Daten zu mildern. Darüber hinaus werden die Herausforderungen in Bezug auf Modellnutzung, Datenschutzniveau und Anwendungen diskutiert. Um diese Herausforderungen zu bewältigen, werden mehrere potenzielle zukünftige Forschungsrichtungen für differenziell privates maschinelles Lernen aufgezeigt.