Calibration du bruit pour la confidentialité de groupe dans les mécanismes sous-échantillonnés

Étant donné une taille de groupe m et un ensemble de données sensibles D, la confidentialité de groupe (GP) publie des informations à propos de D avec la garantie que l'adversaire ne peut pas déduire avec une haute confiance si les données sous-jacentes sont D ou un ensemble voisin D' qui diffère de D par m enregistrements. GP généralise la notion bien établie de confidentialité différentielle (DP) pour protéger la vie privée des individus ; en particulier, lorsque m=1, GP se réduit à DP. Comparée à DP, GP est capable de protéger les informations agrégées sensibles d’un groupe allant jusqu’à m individus, par exemple, le revenu annuel moyen des membres d’un club nautique. Malgré sa présence ancienne dans la littérature de recherche et ses applications prometteuses, GP est souvent considérée comme un après-coup, la plupart des approches développant d’abord un mécanisme DP puis utilisant une conversion générique pour l’adapter à GP, traitant la solution DP comme une boîte noire. Comme nous le soulignons dans l’article, cette méthodologie est sous-optimale lorsque la solution DP sous-jacente implique un sous-échantillonnage, par exemple dans la méthode classique DP-SGD pour entraîner des modèles d’apprentissage profond. Dans ce cas, la conversion DP-vers-GP est excessivement pessimiste dans son analyse, conduisant à une faible utilité dans les résultats publiés sous GP. Motivés par cela, nous proposons un nouveau cadre d’analyse offrant une comptabilisation précise de la confidentialité pour les mécanismes GP sous-échantillonnés. Plutôt que de convertir une boîte noire DP en GP, notre solution analyse soigneusement et utilise l’aléa inhérent aux mécanismes sous-échantillonnés, conduisant à une borne nettement améliorée sur la perte de confidentialité relative à GP. La solution proposée s’applique à une grande variété de mécanismes fondamentaux avec sous-échantillonnage. Des expériences approfondies avec de vraies données démontrent que, comparés à l’approche de conversion depuis la boîte noire DP, nos mécanismes GP réduisent le bruit de plus d’un ordre de grandeur dans plusieurs contextes pratiques, y compris l’entraînement de réseaux neuronaux profonds.