ChatGPT dans l'éducation médicale : un précurseur du biais d'automatisation ?

L'intelligence artificielle (IA) dans le secteur de la santé promet de fournir des résultats précis et efficaces. Cependant, l'IA peut également être une boîte noire, où la logique derrière ses résultats est non rationnelle. Il existe des préoccupations quant à l'utilisation de ces résultats douteux dans les soins aux patients. Étant donné que les médecins ont le devoir de fournir des soins fondés sur leur jugement clinique en plus des valeurs et des préférences de leurs patients, il est crucial que les médecins valident les résultats de l'IA. Pourtant, certains médecins présentent un phénomène connu sous le nom de biais d'automatisation, où l'utilisateur suppose que l'IA a toujours raison. C'est un état d'esprit dangereux, car les utilisateurs présentant un biais d'automatisation ne valideront pas les résultats, en raison de leur confiance dans les systèmes d'IA. Plusieurs facteurs influencent la susceptibilité d'un utilisateur au biais d'automatisation, tels que le manque d'expérience ou le fait d'être né à l'ère numérique. Dans cet éditorial, je soutiens que ces facteurs et un manque d'éducation sur l'IA dans le curriculum des écoles de médecine engendrent un biais d'automatisation. J'explore également les méfaits du biais d'automatisation et pourquoi les futurs médecins doivent être vigilants lorsqu'ils utilisent l'IA. De plus, il est important de considérer quelles attitudes sont enseignées aux étudiants lors de l'introduction de ChatGPT, qui pourrait être la première expérience de certains étudiants avec l'IA, avant leur utilisation de l'IA dans le cadre clinique. Par conséquent, pour tenter d'éviter le problème du biais d'automatisation à long terme, en plus d'incorporer l'éducation sur l'IA dans le curriculum, ce qui est nécessaire, l'utilisation de ChatGPT dans l'éducation médicale devrait être limitée à certaines tâches. Sinon, l'absence de contraintes sur l'utilisation de ChatGPT pourrait conduire au biais d'automatisation.