Poursuivre vos longues queues

Les modèles d'apprentissage automatique dans le domaine de la santé sont souvent déployés dans des environnements où il est important de protéger la vie privée des patients. Dans ces environnements, les méthodes d'apprentissage différentiellement privé (DP) offrent une approche polyvalente pour apprendre des modèles avec des garanties de confidentialité. Les méthodes modernes d'apprentissage DP garantissent la confidentialité par l'ajout de bruit calibré. Les modèles préservant la confidentialité qui en résultent ne peuvent pas apprendre trop d'informations sur les queues d'une distribution de données, entraînant une perte de précision pouvant affecter de manière disproportionnée les petits groupes. Dans cet article, nous étudions les effets de l'apprentissage DP dans le domaine de la santé. Nous utilisons des méthodes à la pointe de la technologie pour l'apprentissage DP afin de former des modèles préservant la confidentialité dans des tâches de prédiction clinique, y compris la classification des images radiographiques et la prédiction de la mortalité dans des données de séries temporelles. Nous utilisons ces modèles pour réaliser une enquête empirique complète sur les compromis entre la confidentialité, l'utilité, la robustesse aux changements de jeu de données et l'équité. Nos résultats mettent en lumière des limitations moins connues des méthodes d'apprentissage DP dans le domaine de la santé, des modèles qui présentent des compromis importants entre confidentialité et utilité, et des modèles dont les prédictions sont influencées de manière disproportionnée par de grands groupes démographiques dans les données d'entraînement. Nous discutons des coûts et des avantages de l'apprentissage différentiellement privé dans le domaine de la santé avec des directions ouvertes pour la confidentialité différentielle, l'apprentissage automatique et la santé.