Leçons tirées de l'IA autonome : trouver un chemin sûr, efficace et éthique à travers le processus de développement

L'intelligence artificielle (IA) décrit des systèmes capables de prendre des décisions d'une grande complexité cognitive ; les systèmes d'IA autonomes dans les soins de santé sont des systèmes d'IA qui prennent des décisions cliniques sans supervision humaine. De tels systèmes d'IA diagnostiques médicaux rigoureusement validés offrent de grandes promesses pour améliorer l'accès aux soins, augmenter la précision et réduire les coûts, tout en permettant aux médecins spécialistes de fournir la plus grande valeur en gérant et traitant les patients dont les résultats peuvent être améliorés. Assurer que l'IA autonome apporte ces avantages nécessite une évaluation de l'effet de l'IA autonome sur les résultats des patients, la conception, la validation, l'utilisation des données et la responsabilité, d'un point de vue bioéthique et de responsabilité. Nous avons réalisé une revue de la littérature sur les principes bioéthiques pour l'IA et dérivé des règles d'évaluation pour l'IA autonome, fondées sur des principes bioéthiques. Les règles incluent les résultats des patients, la validation, la norme de référence, la conception, l'utilisation des données et la responsabilité en matière de responsabilité médicale. L'application des règles explique l'autorisation de novo réussie de la Food and Drug Administration (FDA) américaine d'un exemple, le premier examen autonome de la rétinopathie diabétique au point de soins, autorisé par la FDA après un essai clinique préenregistré. Les médecins doivent devenir compétents pour comprendre les risques et les avantages potentiels de l'IA autonome, ainsi que comprendre sa conception, sa sécurité, son efficacité et son équité, sa validation et sa responsabilité, ainsi que la manière dont ses données ont été obtenues. Les règles d'évaluation de l'IA autonome présentées ici peuvent aider les médecins à comprendre les limites et les risques ainsi que les avantages potentiels de l'IA autonome pour leurs patients.