Konversationelle Künstliche Intelligenz in der Psychotherapie: Ein neues therapeutisches Werkzeug oder Agent?

Konversationelle Künstliche Intelligenz (CAI) bietet zahlreiche Möglichkeiten im psychotherapeutischen Bereich, wie beispielsweise therapeutische Unterstützung für Menschen mit psychischen Problemen und ohne Zugang zu Versorgung. Die Einführung von CAI birgt viele Risiken, die einer vertieften ethischen Prüfung bedürfen. Ziel dieses Papiers ist es, die aktuelle Forschung zur Ethik von KI im Bereich psychischer Gesundheit zu ergänzen, indem eine ganzheitliche, ethische und epistemische Analyse der Einführung von CAI vorgeschlagen wird. Zunächst konzentrieren wir uns auf die Frage, ob CAI eher ein Werkzeug oder ein Agent ist. Diese Frage dient als Rahmen für die anschließende ethische Analyse von CAI, die sich auf Themen wie (Selbst-)Wissen, (Selbst-)Verständnis und Beziehungen konzentriert. Zweitens schlagen wir eine weiterführende konzeptionelle und ethische Analyse im Hinblick auf die Mensch-KI-Interaktion vor und argumentieren, dass CAI nicht als gleichberechtigter Partner in einem Gespräch betrachtet werden kann, wie es bei einem menschlichen Therapeuten der Fall ist. Stattdessen sollte die Rolle von CAI in einem Gespräch auf spezifische Funktionen beschränkt sein.