Assim Como Eu: O Papel das Opiniões e Experiências Pessoais na Percepção das Explicações na Tomada de Decisões Subjetivas

À medida que os grandes modelos de linguagem (LLMs) avançam para produzir argumentos semelhantes aos humanos em alguns contextos, o número de configurações aplicáveis à colaboração humano-AI se amplia. Especificamente, focamos na tomada de decisões subjetivas, onde uma decisão é contextual, aberta à interpretação e baseada nas crenças e valores de uma pessoa. Nesses casos, ter múltiplos argumentos e perspectivas pode ser particularmente útil para quem toma a decisão. Usando o sexismo sutil online como uma aplicação pouco estudada da tomada de decisões subjetivas, sugerimos que a saída dos LLMs pode efetivamente fornecer uma argumentação diversificada para enriquecer a tomada de decisão humana subjetiva. Para avaliar a aplicabilidade deste caso, realizamos um estudo de entrevistas (N=20) onde os participantes avaliaram a autoria percebida, relevância, convincente e confiabilidade do texto explicativo gerado por humanos e AI, gerado em resposta a casos de sexismo sutil da internet. Neste artigo do workshop, focamos em uma tendência preocupante em nossos resultados relacionada às opiniões e experiências exibidas na argumentação dos LLMs. Descobrimos que os participantes classificaram explicações que continham essas características como mais convincentes e confiáveis, particularmente quando essas opiniões e experiências estavam alinhadas com suas próprias opiniões e experiências. Descrevemos nossos achados, discutimos o papel preocupante que o viés de confirmação desempenha e chamamos a atenção para os desafios éticos em torno da geração de experiências semelhantes às humanas pela AI.