Große Sprachmodell (LLM)-basierte Chatbots wie ChatGPT, Gemini, Copilot und Perplexity verändern die Gesundheitskommunikation, indem sie sofortige konversationelle Antworten liefern. Obwohl ihre Nutzung in klinischen und nicht-klinischen Bereichen zunimmt, bestehen Bedenken hinsichtlich ihrer Genauigkeit, Sicherheit und der Möglichkeit, bestehende gesundheitliche Ungleichheiten zu verschärfen. Dieser Kommentar fasst aufkommende Forschungsergebnisse zusammen, um die Anwendungen, Einschränkungen und Risiken von konversationeller KI im Gesundheitswesen zu untersuchen, wobei der Schwerpunkt insbesondere auf unterversorgten Bevölkerungsgruppen mit eingeschränkter digitaler oder Gesundheitskompetenz liegt. Diese Werkzeuge werden zunehmend in klinischen Einrichtungen für Aufgaben wie Triage, chirurgische Unterstützung und diagnostische Unterstützung sowie in nicht-klinischen Rollen wie Gesundheitsaufklärung und Übersetzung eingesetzt. Allerdings erzeugen Chatbots oft ungenaue, verallgemeinerte oder voreingenommene Antworten aufgrund ihrer Abhängigkeit von benutzergenerierten Eingaben und öffentlich verfügbaren Trainingsdaten. Diese Einschränkungen wirken sich unverhältnismäßig auf verletzliche Bevölkerungsgruppen aus und vertiefen dadurch digitale und gesundheitliche Ungleichheiten. Die Bewältigung dieser Probleme erfordert ein inklusives Design von Chatbots, Inhaltsregulierung und öffentliche Aufklärung über die Benutzerbildung, um eine gerechte Gesundheitskommunikation zu gewährleisten.
Jamal Uddin (Sun,) hat diese Frage untersucht.