PrivateSNN: Redes Neurais Espinhosas que Preservam a Privacidade

Como podemos trazer tanto privacidade quanto eficiência energética para um sistema neural? Neste artigo, propomos o PrivateSNN, que visa construir Redes Neurais Espinhosas (SNNs) de baixo consumo de energia a partir de um modelo ANN pré-treinado, sem vazar informações sensíveis contidas em um conjunto de dados. Aqui, abordamos dois tipos de problemas de vazamento: 1) O vazamento de dados ocorre quando as redes acessam dados reais de treinamento durante um processo de conversão de ANN para SNN. 2) O vazamento de classe ocorre quando características relacionadas à classe podem ser reconstruídas a partir dos parâmetros da rede. Para abordar o problema de vazamento de dados, geramos imagens sintéticas a partir das ANNs pré-treinadas e convertemos ANNs em SNNs usando as imagens geradas. No entanto, SNNs convertidos permanecem vulneráveis ao vazamento de classe, uma vez que os parâmetros de peso têm o mesmo valor (ou escalonado) em relação aos parâmetros da ANN. Portanto, criptografamos os pesos das SNNs treinando-as com uma regra de aprendizado baseada em picos temporais. Atualizar os parâmetros de peso com dados temporais torna as SNNs difíceis de interpretar no domínio espacial. Observamos que o PrivateSNN criptografado elimina problemas de vazamento de dados e de classe com uma leve queda de desempenho (menos de ~2%) e um ganho significativo em eficiência energética (cerca de 55x) em comparação com a ANN padrão. Realizamos extensos experimentos em vários conjuntos de dados, incluindo CIFAR10, CIFAR100 e TinyImageNet, destacando a importância do treinamento de SNNs que preservam a privacidade.