Explicações Comprovadamente Melhores com Agregação Otimizada de Atribuições de Recursos

Usar atribuições de recursos para explicações post-hoc é uma prática comum para entender e verificar as previsões de modelos de aprendizado de máquina opacos. Apesar das numerosas técnicas disponíveis, métodos individuais muitas vezes produzem resultados inconsistentes e instáveis, colocando em questão sua confiabilidade geral. Neste trabalho, visamos melhorar sistematicamente a qualidade das atribuições de recursos, combinando múltiplas explicações de métodos distintos ou suas variações. Para esse propósito, propomos uma abordagem nova para derivar combinações convexas ótimas de atribuições de recursos que prometem melhorias comprovadas em critérios de qualidade desejados, como robustez ou fidelidade ao comportamento do modelo. Por meio de experimentos extensivos envolvendo várias arquiteturas de modelo e técnicas populares de atribuição de recursos, demonstramos que nossa estratégia de combinação supera consistentemente métodos individuais e linhas de base existentes.