AuditMAI: Rumo a uma Infraestrutura para Auditoria Contínua de IA

A Auditabilidade da Inteligência Artificial (IA) é um requisito fundamental para alcançar um design responsável de sistemas de IA. No entanto, ainda não é uma característica de design proeminente nas aplicações atuais. As ferramentas de auditoria de IA existentes geralmente carecem de recursos de integração e permanecem como abordagens isoladas. Isso resulta em auditorias de IA manuais, de alto esforço e, na maioria das vezes, pontuais, necessitando de métodos alternativos. Inspirados por outros domínios, como finanças, a auditoria contínua de IA é uma direção promissora para realizar avaliações regulares de sistemas de IA. No entanto, a questão persiste, pois os métodos para auditoria contínua de IA ainda não estão maduros no momento. Para abordar essa lacuna, propomos o Método de Auditabilidade para IA (AuditMAI), que é destinado a ser um modelo para uma infraestrutura voltada para auditoria contínua de IA. Para isso, primeiro esclarecemos a definição de auditabilidade de IA com base na literatura. Em segundo lugar, derivamos requisitos de dois casos de uso industriais para suporte às ferramentas de auditoria contínua de IA. Por fim, desenvolvemos o AuditMAI e discutimos seus elementos como um modelo para uma infraestrutura de auditabilidade de IA contínua.