Quantification de l'impact des recommandations d'IA avec explications sur la prise de décision en matière de prescription

L'influence des recommandations d'IA sur le comportement des médecins reste mal caractérisée. Nous évaluons comment les décisions des cliniciens peuvent être influencées par des informations supplémentaires de manière plus générale, et comment cette influence peut être modifiée par la source de l'information (pairs humains ou IA) et la présence ou l'absence d'une explication IA (XAI, ici utilisant l'importance des caractéristiques simples). Nous avons utilisé un design modifié en groupes avec des médecins en soins intensifs (N = 86) qui ont été présentés sur un ordinateur pour chacun des 16 essais avec un cas patient et ont été invités à prescrire des valeurs continues pour deux médicaments. Nous avons utilisé un design expérimental multifactoriel avec quatre bras, où chaque clinicien a vécu les quatre bras sur différents sous-ensembles de nos 24 patients. Les quatre bras étaient (i) de base (contrôle), (ii) scénario de clinicien humain montrant quelles doses avaient été prescrites par d'autres médecins, (iii) suggestion IA et (iv) suggestion XAI. Nous avons constaté que des informations supplémentaires (pair, IA ou XAI) avaient une forte influence sur les prescriptions (significativement pour l'IA, moins pour les pairs) mais que la simple XAI n'avait pas plus d'influence que l'IA seule. Il n'y avait pas de corrélation entre les attitudes envers l'IA ou l'expérience clinique sur les décisions soutenues par l'IA et il n'y avait pas non plus de corrélation entre ce que les médecins déclaraient eux-mêmes sur l'utilité perçue de la XAI et si la XAI influençait réellement leurs prescriptions. Nos résultats suggèrent que l'impact marginal de la simple XAI était faible dans ce contexte et que nous remettons également en question l'utilité des auto-évaluations comme une métrique valide pour évaluer la XAI chez les experts cliniques.