Données du modèle : extraction de données à partir de modèles non robustes et robustes

L'essence de l'apprentissage profond est d'exploiter les données pour entraîner un modèle de réseau de neurones profond (DNN). Ce travail explore le processus inverse de génération de données à partir d'un modèle, tentant de révéler la relation entre les données et le modèle. Nous répétons le processus de Données à Modèle (DtM) et de Données provenant du Modèle (DfM) en séquence et explorons la perte d'information de cartographie des caractéristiques en mesurant la baisse de précision sur le jeu de validation original. Nous réalisons cette expérience pour un modèle d'origine non robuste et robuste. Nos résultats montrent que la baisse de précision est limitée même après plusieurs séquences de DtM et DfM, surtout pour les modèles robustes. Le succès de cette transformation cyclique peut être attribué à la cartographie des caractéristiques partagées existant dans les données et le modèle. En utilisant les mêmes données, nous observons que différents processus DtM donnent lieu à des modèles ayant des caractéristiques différentes, surtout pour différentes familles d'architectures de réseau, même s'ils obtiennent des performances comparables.