BETA : Accélérateur de Transformateur Binarisé Énergétiquement Efficace à la Frontière

Les Transformateurs binaires existants sont prometteurs pour le déploiement à la frontière en raison de leur taille de modèle compacte, de leur faible complexité computationnelle et de leur précision d'inférence considérable. Cependant, le déploiement des Transformateurs binaires rencontre des défis sur les processeurs antérieurs en raison de l'exécution inefficace de la multiplication de matrices quantifiées (QMM) et de la consommation d'énergie supplémentaire causée par des activations de multiprécision. Pour relever les défis ci-dessus, nous développons d'abord une méthode d'abstraction de flux de calcul pour les Transformateurs binaires afin d'améliorer l'efficacité d'exécution de la QMM en optimisant l'ordre de calcul. De plus, un accélérateur de Transformateur binarisé énergétiquement efficace, nommé BETA, est proposé pour stimuler le déploiement efficace à la frontière. Notamment, BETA dispose d'un moteur QMM configurable, s'adaptant à diverses précisions d'activation des Transformateurs binaires et offrant un haut niveau de parallélisme et de vitesse pour les QMM avec une impressionnante efficacité énergétique. Les résultats expérimentaux évalués sur le FPGA ZCU102 montrent que BETA atteint une efficacité énergétique moyenne de 174 GOPS/W, ce qui est de 1,76 à 21,92 fois supérieur aux accélérateurs FPGA antérieurs, montrant le bon potentiel de BETA pour l'accélération des Transformateurs à la frontière.