Restreindre le Flux : Goulots d'Étranglement de l'Information pour l'Attribution

Les méthodes d'attribution fournissent des informations sur la prise de décision des modèles d'apprentissage automatique comme les réseaux de neurones artificiels. Pour un échantillon d'entrée donné, elles attribuent un score de pertinence à chaque variable d'entrée individuelle, comme les pixels d'une image. Dans ce travail, nous adaptons le concept de goulot d'étranglement de l'information pour l'attribution. En ajoutant du bruit aux cartes de caractéristiques intermédiaires, nous restreignons le flux d'information et pouvons quantifier (en bits) combien d'information les régions d'image fournissent. Nous comparons notre méthode à dix références en utilisant trois métriques différentes sur VGG-16 et ResNet-50, et constatons que nos méthodes surpassent toutes les références dans cinq des six configurations. La fondation informationnelle de la méthode fournit un cadre de référence absolu pour les valeurs d'attribution (bits) et une garantie que les régions notées proches de zéro ne sont pas nécessaires à la décision du réseau. Pour les revues : https://openreview.net/forum?id=S1xWh1rYwB Pour le code : https://github.com/BioroboticsLab/IBA