Sem Explicabilidade sem Responsabilidade

Explicações geradas automaticamente sobre como os modelos de aprendizado de máquina (ML) raciocinam podem ajudar os usuários a entendê-los e aceitá-los. No entanto, as explicações podem ter consequências não intencionais: promover a dependência excessiva ou minar a confiança. Este artigo investiga como as explicações moldam as percepções dos usuários sobre os modelos de ML, com ou sem a capacidade de fornecer feedback: (1) revelar falhas do modelo aumenta o desejo dos usuários de "corrigi-los"; (2) fornecer explicações faz com que os usuários acreditem - incorretamente - que os modelos são introspectivos e, portanto, melhorarão ao longo do tempo. Através de dois experimentos controlados - variando a qualidade do modelo - mostramos como a combinação de explicações e feedback dos usuários impactou percepções, como frustração e expectativas de melhoria do modelo. Explicações sem oportunidade de feedback foram frustrantes com um modelo de menor qualidade, enquanto interações entre explicação e feedback para o modelo de maior qualidade sugerem que feedback detalhado não deve ser solicitado sem explicação. Os usuários esperavam correção do modelo, independentemente de fornecerem feedback ou receberem explicações.