Hintergrund Große Sprachmodelle (LLMs) bieten Möglichkeiten für sexuelle Gesundheitserziehung, aber deren Integration in digitale Produkte bringt klinische Herausforderungen und Risiken mit sich, insbesondere hinsichtlich klinischer Sicherheit und Überwachung im großen Maßstab. Diese Studie entwarf und bewertete einen sicherheitsfokussierten Rahmen für einen LLM-basierten Chatbot für sexuelles Wohlbefinden in einer mobilen Anwendung. Methoden Wir führten eine methodenfokussierte Machbarkeitsstudie durch, die eine mehrstufige Entwicklung und Bewertung des Chatbots umfasste. Wir verwendeten einen interdisziplinären, medizinisch geleiteten dreiphasigen Entwicklungsprozess, einschließlich eines fünfstufigen Bewertungsrahmens, der synthetische Testfälle, von Klinikern geleitete Vulnerabilitätstests und kontrollierte Freigaben an echte Benutzer kombinierte, um die klinische Genauigkeit und Sicherheit zu bewerten. Ergebnisse Der Chatbot erfüllte vordefinierte Präzisions- und Rückrufschwellen in synthetischen Tests. Klinisch ungenaue Antworten blieben in den Überprüfungsphasen durch Kliniker unter 2 %, ohne dass hochgradig unsichere Antworten vorhanden waren. Bei einer kontrollierten Freigabe wurden 5195 Interaktionen mit echten Benutzern überprüft. Klinisch ungenaue Antworten traten in 0,90 % (47/5195) der Dialoge auf, wobei alle unsicheren Antworten innerhalb der Schweregrenzen lagen. Schlussfolgerung Diese Studie zeigt die Machbarkeit eines strukturierten Rahmens zur Entwicklung und Bewertung von LLM-basierten Chatbots für sexuelle Gesundheit mit klinischer Sicherheitsaufsicht. Dieser Ansatz hilft, Lücken in der Sicherheitsberichterstattung zu schließen und könnte für andere sensible klinische Bereiche angepasst werden.
McGee et al. (Sun,) haben diese Frage untersucht.