Key points are not available for this paper at this time.
Ces dernières années, nous avons assisté à une augmentation de l'application des réseaux de neurones profonds (DNN) et des méthodes d'apprentissage par renforcement (RL) à divers systèmes de contrôle autonomes et problèmes de jeux. Bien qu'ils soient capables d'apprendre à partir de données du monde réel et de produire des actions adéquates dans diverses conditions d'état, leur complexité interne ne permet pas une explication facile de leurs actions. Dans cet article, nous générons des données de paire état-action à partir d'un système DNN/RL entraîné et utilisons un cadre d'arbre de décision non linéaire (NLDT) proposé précédemment pour déchiffrer des ensembles de règles simplistes cachées qui interprètent le fonctionnement des systèmes DNN/RL. La complexité des ensembles de règles est contrôlable par l'utilisateur. En essence, la procédure d'optimisation bilatérale inhérente qui trouve les NLDT est capable de réduire les complexités de la logique état-action à un niveau minimaliste et interprétable. Démontrant le principe de fonctionnement de la méthode NLDT sur un problème de contrôle de voiture de montagne révisé, cet article applique la méthodologie au problème de changement de voie impliquant six voitures critiques devant et derrière dans les voies gauche, centrale et droite d'une voiture pilote. Des NLDT sont dérivées pour avoir des relations simplistes de 12 variables de décision impliquant des distances et vitesses relatives des six voitures critiques. Les règles décisionnelles analytiques dérivées sont ensuite simplifiées davantage en utilisant un outil d'analyse symbolique pour fournir une interprétation de type anglais du problème de changement de voie. Cette étude aborde la question de l'interprétabilité des outils basés sur l'apprentissage machine moderne et mérite désormais davantage d'attention et d'applications pour rendre l'approche globale plus intégrée et efficace.
Ghosh et al. (Sun,) ont étudié cette question.