Les chatbots basés sur des modèles de langage vaste (LLM) tels que ChatGPT, Gemini, Copilot et Perplexity transforment la communication en santé en fournissant des réponses conversationnelles en temps réel. Bien que leur utilisation se développe dans des contextes cliniques et non cliniques, des inquiétudes subsistent concernant leur précision, leur sécurité et leur potentiel à aggraver les inégalités en matière de santé existantes. Ce commentaire synthétise les recherches émergentes pour examiner les applications, les limitations et les risques associés à l'IA conversationnelle dans le domaine de la santé, en se concentrant particulièrement sur les populations mal desservies ayant une littératie numérique ou en santé limitée. Ces outils sont de plus en plus utilisés dans les milieux cliniques pour des tâches telles que le triage, le soutien chirurgical et le soutien diagnostique, et dans des rôles non cliniques tels que l'éducation à la santé et la traduction. Cependant, les chatbots produisent souvent des réponses inexactes, généralisées ou biaisées en raison de leur dépendance aux incitations générées par les utilisateurs et aux données d'entraînement disponibles publiquement. Ces limitations impactent de manière disproportionnée les populations vulnérables, approfondissant encore les inégalités numériques et en santé. Pour résoudre ces problèmes, il est nécessaire d'adopter une conception inclusive des chatbots, une réglementation du contenu et une sensibilisation du public à la littératie des incitations afin d'assurer une communication équitable en santé.
Jamal Uddin (Sun) a étudié cette question.