Key points are not available for this paper at this time.
A demanda por mais responsabilidade em relação aos sistemas tecnológicos que cada vez mais ocupam nosso mundo está crescendo. No entanto, a complexidade de muitos desses sistemas—geralmente sistemas de sistemas—impõe desafios de responsabilidade. Uma razão chave para isso é porque os detalhes e a natureza dos fluxos de informações que interconectam e impulsionam os sistemas, que muitas vezes ocorrem através de fronteiras técnicas e organizacionais, tendem a ser invisíveis ou opacos. Este artigo argumenta que os métodos de proveniência de dados mostram grande promessa como um meio técnico para aumentar a transparência desses sistemas interconectados. Especificamente, dadas as preocupações em relação aos níveis cada vez maiores de decisões automatizadas e algorítmicas, e os chamados “sistemas algorítmicos” em geral, propomos a proveniência de decisão como um conceito que demonstra grande promessa. A proveniência de decisão envolve o uso de métodos de proveniência para fornecer informações que expõem os pipelines de decisão: cadeias de entradas, a natureza e os efeitos subsequentes das decisões e ações tomadas (em tempo de design e execução) ao longo dos sistemas. Este artigo introduz o conceito de proveniência de decisão e realiza uma exploração interdisciplinar (técnico-jurídica) de seu potencial para auxiliar a responsabilidade em sistemas algorítmicos. Argumentamos que a proveniência de decisão pode ajudar a facilitar a supervisão, auditoria, conformidade, mitigação de riscos e empoderamento do usuário, e também indicamos as considerações de implementação e áreas de pesquisa necessárias para realizar sua visão. De uma forma mais geral, defendemos que as considerações sobre o fluxo de dados e sistemas de forma mais ampla são importantes para discussões de responsabilidade e complementam a considerável atenção já dada a especificidades algorítmicas.
Singh et al. (Ter,) estudaram essa questão.