La privacidad diferencial (DP) se ha convertido en el estándar de oro para preservar la privacidad individual en el análisis de datos. Sin embargo, una suposición implícita pero fundamental que subyace a estas rigurosas garantías de privacidad es la correcta implementación y ejecución de los mecanismos de DP. Varios incidentes de pérdida de privacidad no intencionada han ocurrido debido a problemas numéricos y configuraciones inapropiadas del software de DP, que han sido explotados con éxito en ataques a la privacidad. Para entender mejor la gravedad del software de DP defectuoso, planteamos la siguiente pregunta: ¿es posible elevar estos defectos pasivos en ataques activos a la privacidad manteniendo la encubrimiento? Para abordar esta pregunta, presentamos el mecanismo de panqueque gaussiano (GPM), un mecanismo novedoso que es computacionalmente indistinguible del ampliamente utilizado mecanismo gaussiano (GM), pero que exhibe garantías de DP estadística arbitrariamente más débiles. Esta separación sin precedentes permite una nueva clase de ataques de puerta trasera: al pasar indistinguiblemente por el auténtico GM, GPM puede degradar encubiertamente la privacidad estadística. A diferencia de la pérdida de privacidad no intencionada causada por los problemas numéricos del GM, GPM es un ataque de puerta trasera adversarial pero indetectable contra la privacidad de los datos. Probamos formalmente el encubrimiento de GPM, caracterizamos su fuga estadística, y demostramos un ataque de distinción concreto que puede lograr tasas de éxito casi perfectas bajo elecciones de parámetros adecuadas, tanto teórica como empíricamente. Nuestros resultados subrayan la importancia de utilizar bibliotecas de DP transparentes y de código abierto y destacan la necesidad de un escrutinio riguroso y verificación formal de las implementaciones de DP para prevenir compromisos sutiles e indetectables de privacidad en sistemas del mundo real.
Sun et al. (Sun,) estudiaron esta cuestión.