Können Chatbots uns lehren, wie wir uns verhalten sollen? Untersuchung von Annahmen über Benutzerinteraktionen mit KI-Assistenten und deren sozialen Auswirkungen

In diesem Artikel untersuchen wir das Thema KI-Assistenten und die Art und Weise, wie sie auf Beleidigungen und sexuell deutliche Anfragen reagieren. Öffentliche Besorgnis über diese Antworten, insbesondere weil KI-Assistenten normalerweise weiblich klingend sind, veranlasste Tech-Unternehmen, sie durchsetzungsfähiger zu gestalten. Forscher haben untersucht, ob diese weiblich klingenden KI-Assistenten missbräuchliches Verhalten fördern und gesellschaftlichen Sexismus verstärken könnten. Das Ausmaß und die Natur des Problems sind jedoch aufgrund eines Mangels an Daten zu Benutzerinteraktionen unklar. Durch die Kombination psychologischer und soziokultureller Perspektiven problematisieren wir diese Annahmen und skizzieren eine Reihe von Forschungsfragen, um KI-Assistenten effektiver zur Förderung von Geschlechterinklusion zu nutzen.