Interpretável para Quem? Um Modelo Baseado em Funções para Análise de Sistemas de Aprendizado de Máquina Interpretáveis

Vários pesquisadores argumentaram que o sistema de aprendizado de máquina deve ser definido em relação a um agente ou tarefa específico: não perguntamos se o sistema é interpretável, mas para quem ele é interpretável. Descrevemos um modelo destinado a ajudar a responder a essa pergunta, identificando papéis que os agentes podem desempenhar em relação ao aprendizado de máquina. Ilustramos o uso do nosso modelo em uma variedade de cenários, explorando como o papel de um agente influencia seus objetivos e as implicações para sua definição. Finalmente, fazemos sugestões de como nosso modelo poderia ser útil para pesquisadores em interpretabilidade, desenvolvedores de sistemas e auditoria regulatória de sistemas de aprendizado de máquina.