Retropropagação Aleatória Baseada em Eventos: Habilitando Máquinas de Aprendizado Profundo Neuromórfico

Um desafio contínuo na computação neuromórfica é elaborar modelos gerais e computacionalmente eficientes de inferência e aprendizado que sejam compatíveis com as restrições espaciais e temporais do cérebro. Uma abordagem cada vez mais popular e bem-sucedida é se inspirar em algoritmos de inferência e aprendizado usados em redes neurais profundas. No entanto, o pilar do aprendizado profundo, a regra de retropropagação do gradiente (BP), frequentemente depende da disponibilidade imediata de informações de toda a rede armazenadas em memória de alta precisão durante o aprendizado, e de operações precisas que são difíceis de realizar em hardware neuromórfico. Notavelmente, trabalhos recentes mostraram que gradientes retropropagados exatos não são essenciais para aprender representações profundas. Com base nesses resultados, demonstramos uma regra de BP aleatória baseada em eventos (eRBP) que usa uma plasticidade sináptica modulada por erro para aprender representações profundas. Usando um neurônio de compartimento duplo Leaky Integrate & Fire (I&F), a regra requer apenas uma adição e duas comparações para cada peso sináptico, tornando-a muito adequada para implementação em hardware neuromórfico digital ou de sinal misto. Nossos resultados mostram que usando eRBP, representações profundas são rapidamente aprendidas, alcançando precisões de classificação em conjuntos de dados invariantes a permutações comparáveis às obtidas em simulações de redes neurais artificiais em GPUs, enquanto sendo robustas a quantizações do estado neural e sináptico durante o aprendizado.