Faites confiance, mais vérifiez : Consentement éclairé, technologies d’IA et urgences de santé publique

Utiliser la technologie ou s'engager dans la recherche ou le traitement médical nécessite généralement le consentement de l'utilisateur : accepter les conditions d’utilisation des technologies ou des services, ou fournir un consentement éclairé pour la participation à la recherche, aux essais cliniques et aux interventions médicales, ou comme l'une des bases légales du traitement des données personnelles. L'introduction des technologies d'IA, où l'explicabilité et la fiabilité sont des éléments centraux des directives gouvernementales et des technologistes responsables, impose des défis supplémentaires. Comprendre suffisamment la technologie pour pouvoir prendre une décision éclairée, ou donner son consentement, est essentiel mais implique une acceptation des résultats incertains. De plus, la contribution des technologies habilitées par l'IA, en particulier pendant la pandémie de COVID-19, soulève des préoccupations éthiques concernant la gouvernance liée à leur développement et à leur déploiement. En utilisant trois scénarios typiques — le traçage des contacts, l'analyse de grandes données et la recherche lors d'urgences publiques — cet article explore une alternative fondée sur la confiance au consentement. Contrairement aux mécanismes basés sur le consentement existants, cette approche considère le consentement comme une réponse comportementale typique aux caractéristiques contextuelles perçues. Les décisions de participation découlent de l'hypothèse que toutes les parties prenantes pertinentes, y compris les participants à la recherche, négocieront de manière continue. Accepter la négociation dynamique entre les principaux acteurs, comme proposé ici, introduit une perspective socio-psychologique spécifiquement dans le débat sur les réponses humaines à l'intelligence artificielle. Ce processus de consentement basé sur la confiance conduit à un ensemble de recommandations pour l'utilisation éthique des technologies avancées ainsi que pour l'examen éthique des projets de recherche appliquée.