Bias in medical recommendations: Prompting vs. fine-tuning of large language models

Große Sprachmodelle (Large Language Models, LLMs) werden zunehmend für die Bereitstellung medizinischer Beratung eingesetzt, einschließlich Diagnosevorschlägen, Behandlungsplänen und Empfehlungen für die Gesundheitsversorgung. Da sich immer mehr Menschen bei ersten medizinischen Beratungen auf LLMs verlassen – entweder vor dem Besuch eines Arztes oder in manchen Fällen anstelle einer professionellen Behandlung – nimmt die Abhängigkeit von diesen KI-Systemen stetig zu. Dies gibt Anlass zur Sorge hinsichtlich potenzieller Verzerrungen in den Modellergebnissen, insbesondere solcher, die mit der ethnischen Zugehörigkeit zusammenhängen. Verzerrungen in medizinischen Empfehlungen können schwerwiegende Folgen in der Praxis haben. Insbesondere können ungleiche Behandlungsempfehlungen aufgrund der ethnischen Zugehörigkeit von Patientinnen und Patienten bestehende Ungleichheiten im Gesundheitswesen verschärfen, zu unangemessener medizinischer Beratung führen und letztendlich die Behandlungsergebnisse beeinträchtigen. Daher ist es für die Sicherheit und Vertrauenswürdigkeit von KI-Systemen im Gesundheitswesen entscheidend, dass LLMs unvoreingenommene medizinische Beratung liefern. Diese Masterarbeit zielt darauf ab, auf den dringenden Bedarf an Mechanismen aufmerksam zu machen, die rassistische Vorurteile in medizinischen Anwendungen großer Sprachmodelle erkennen, messen und abschwächen können. Untersucht wird, inwiefern Feinabstimmung und Prompting als Mechanismen zur Steuerung des Modellverhaltens diese Vorurteile beeinflussen und ob ein Mechanismus effektiver als der andere ist, um Vorurteile zu reduzieren und letztendlich zu inklusiveren Empfehlungen im Gesundheitswesen beizutragen.