Anwendungen, die auf künstlicher Intelligenz basieren, werden in unterschiedlichsten Bereichen eingesetzt und haben bereits bestimmte Alltagsaufgaben transformiert. Trotz der raschen Entwicklungen der letzten Jahre bleiben Technologien der künstlichen Intelligenz fehlbar. Daher plädiere ich in dieser Dissertation für ein gesundes Misstrauen im Kontext von KI. Auf Grundlage von vier Veröffentlichungen legt diese Dissertation Grundsteine, um gesundes Misstrauen im KI-Kontext zu verstehen, zu untersuchen und zu fördern. Die Veröffentlichungen 1 und 2 geben einen ausführlichen Überblick über Konzepte und Bestrebungen, die gesundem Misstrauen ähneln, sowie eine umfassende Konzeptualisierung von Vertrauen, Misstrauen und appropriate reliance. Veröffentlichung 2 bietet außerdem einen Überblick über die bestehende empirische Forschung und dient als verbesserter Startpunkt für weitere Forschung im Hinblick auf Vertrauen und Misstrauen im Kontext von KI. Veröffentlichung 3 untersucht, ob sich die Instruktion, skeptisch gegenüber KI-Hinweisen zu sein, positiv auf das gesunde Misstrauen von Probanden auswirkt, während diese mit vermeintlichen KI-Ratschlägen in einem Bildklassifikationsszenario interagieren. Darüber hinaus enthält Veröffentlichung 3 eine methodische Weiterentwicklung zur Analyse von appropriate reliance. Veröffentlichung 4 erweitert gängige Verfahren, um angemessenes Vertrauen zu messen. Es wird geprüft, ob sich visuelle Aufmerksamkeit als Indikator für gesundes Misstrauen eignet. Dies wird von den vorliegenden Resultaten jedoch nicht unterstützt. Der Manteltext ordnet die vier Veröffentlichungen im gegenwärtigen KI-Kontext ein, bespricht die Limitationen der Veröffentlichungen und identifiziert Zusammenhänge zwischen ihnen. Das Potenzial von gesundem Misstrauen, die Mensch-KI-Interaktion zu verbessern, wird hervorgehoben und es werden Bezüge zu anderen Bereichen als KI hergestellt.
Tobias Martin Peters (2025) studied this question.