Détection et atténuation des biais dans les modèles d'IA entraînés sur des ensembles de données cliniques

L'utilisation de modèles d'intelligence artificielle (IA) a pénétré les systèmes de prise de décision clinique, étant employés dans le diagnostic ainsi que dans la recommandation de traitement. Néanmoins, ces modèles peuvent être de mauvaise qualité en raison des biais qui se produisent dans les ensembles de données cliniques utilisés pour l'entraînement. De tels biais sont susceptibles de conduire à une performance déséquilibrée dans diverses démographies, ce qui pose problème sur les plans éthique, légal et clinique. Cet article examine l'origine et la source des biais dans les modèles d'IA clinique et les méthodes de détection ainsi que l'exécution de mesures d'atténuation telles que le réajustement, l'augmentation des données et les mesures d'équité des algorithmes. Des analyses basées sur des expérimentations utilisant des ensembles de données cliniques de référence montrent comment les biais négligés peuvent produire des effets inégaux sur les sous-groupes de genre, d'âge et d'ethnie. Les scores d'équité des modèles ont augmenté sans sacrifice drastique de précision suite à la mise en œuvre des stratégies d'atténuation. Ces résultats soulèvent la nécessité de produire des applications équitables et crédibles grâce à des pipelines de développement d'IA conscients des biais dans les environnements de soins de santé.