Revue complète des modèles basés sur les Transformers en neurosciences, neurologie et psychiatrie

Résumé Cette revue complète vise à clarifier l'impact croissant des modèles basés sur les Transformers dans les domaines des neurosciences, de la neurologie et de la psychiatrie. Initialement développé comme une solution pour analyser des données séquentielles, l'architecture Transformer a évolué pour capturer efficacement des relations spatio-temporelles complexes et des dépendances à long terme qui sont courantes dans les données biomédicales. Sa capacité d'adaptation et son efficacité à déchiffrer des motifs complexes au sein des études médicales l'ont établi comme un outil clé pour faire avancer notre compréhension des fonctions et désordres neuronaux, représentant un saut significatif par rapport aux méthodes computationnelles traditionnelles. La revue commence par introduire la structure et les principes des architectures Transformer. Elle explore ensuite leur applicabilité, allant du diagnostic et pronostic des maladies à l'évaluation des processus cognitifs et du décodage neural. Les modifications de conception spécifiques adaptées à ces applications et leur impact subséquent sur les performances sont également discutés. Nous concluons en fournissant une évaluation complète des avancées récentes, des défis prévalents et des directions futures, mettant en lumière le changement dans la recherche neuroscientifique et la pratique clinique vers un paradigme centré sur l'intelligence artificielle, en particulier compte tenu de la visibilité de l'architecture Transformer dans les modèles pré-entraînés les plus réussis. Cette revue sert de référence informative pour les chercheurs, cliniciens et professionnels qui s'intéressent à comprendre et à exploiter le potentiel transformateur des modèles basés sur les Transformers en neurosciences, neurologie et psychiatrie.