Missbrauch künstlicher Intelligenz und Bedenken hinsichtlich der Informationsprivatsphäre: Validierung eines neuen Konstrukts und zukünftige Richtungen

Zusammenfassung Um verschiedenen geschäftlichen Herausforderungen zu begegnen, setzen Organisationen zunehmend künstliche Intelligenz (KI) ein, um große Datenmengen zu analysieren. Eine Anwendung besteht darin, unterschiedliche Benutzerdaten in einheitliche Profile zu konsolidieren und Verbraucherreaktionen zusammenzuführen, um Marketingbemühungen genau anzupassen. Obwohl KI den Verbrauchern mehr Komfort und den Organisationen effizienteres und profitableres Marketing bietet, bringt die Aggregation von Daten in Verhaltensprofile, die in maschinellen Lernalgorithmen verwendet werden, erhebliche Datenschutzimplikationen für die Benutzer mit sich, einschließlich unvorhersehbarer persönlicher Offenlegung, Ergebnissen, die benachteiligte Bevölkerungsgruppen benachteiligen, und der Unfähigkeit von Organisationen, Daten auf Anfrage der Verbraucher vollständig aus KI-Systemen zu entfernen. Obwohl diese Implementierungen von KI schnell die Wahrnehmung der Verbraucher von Informationsprivatsphäre verändern, haben Forscher bisher an einem genauen Verfahren gefehlt, um die Datenschutzbedenken von Verbrauchern im Zusammenhang mit KI zu messen. In dieser Studie zielen wir darauf ab, (1) eine Skala zur Messung der Datenschutzbedenken im Zusammenhang mit dem Missbrauch von KI (PC‐AIM) zu validieren und (2) die Auswirkungen zu untersuchen, die PC‐AIM auf nah verwandte Konstrukte im Rahmen des APCO hat. Wir liefern Beweise, die die Validität unserer neu entwickelten Skala demonstrieren. Wir stellen auch fest, dass PC‐AIM das Risiko-Bewusstsein und das persönliche Datenschutzverhalten signifikant erhöht, während es das Vertrauensbewusstsein verringert. Vertrauensbewusstsein und Risiko-Bewusstsein haben keinen signifikanten Einfluss auf das Verhalten, was von früheren Ergebnissen im Datenschutz abweicht. Darüber hinaus diskutieren wir die Implikationen unserer Arbeit sowohl für die Forschung als auch für die Praxis.