Captum : Une bibliothèque d'interprétabilité de modèle unifiée et générique pour PyTorch

Dans cet article, nous introduisons une bibliothèque d'interprétabilité de modèle novatrice, unifiée et open-source pour PyTorch 12. La bibliothèque contient des implémentations génériques d'un certain nombre d'algorithmes d'attribution basés sur le gradient et la perturbation, également connus sous le nom d'algorithmes d'importance des caractéristiques, des neurones et des couches, ainsi qu'un ensemble de métriques d'évaluation pour ces algorithmes. Elle peut être utilisée pour des modèles de classification et non-classification, y compris des modèles structurés en graphes construits sur des réseaux neuronaux (NN). Dans cet article, nous donnons une vue d'ensemble des algorithmes d'attribution supportés et montrons comment effectuer des calculs économes en mémoire et évolutifs. Nous soulignons que les trois principales caractéristiques de la bibliothèque sont la multimodalité, l'extensibilité et la facilité d'utilisation. La multimodalité prend en charge différentes modalités d'entrées telles que l'image, le texte, l'audio ou la vidéo. L'extensibilité permet d'ajouter de nouveaux algorithmes et fonctionnalités. La bibliothèque est également conçue pour être facilement comprise et utilisée. De plus, nous introduisons également un outil de visualisation interactive appelé Captum Insights, qui est construit sur la bibliothèque Captum et permet le débogage et la visualisation des modèles basés sur des échantillons en utilisant des métriques d'importance des caractéristiques.