Um método para estimar o consumo de energia de redes neurais profundas

Redes Neurais Profundas (DNNs) possibilitaram precisão de ponta em muitas tarefas desafiadoras de inteligência artificial. Embora a maior parte da computação atualmente esteja na nuvem, é desejável incorporar o processamento DNN localmente próximo ao sensor devido a preocupações de privacidade, segurança e latência ou limitações na largura de banda de comunicação. Assim, tem havido um interesse crescente na comunidade de pesquisa em projetar DNNs energicamente eficientes. No entanto, estimar o consumo de energia a partir do modelo DNN é muito mais difícil do que outras métricas, como custo de armazenamento (tamanho do modelo) e taxa de transferência (número de operações). Isso se deve ao fato de que uma parte significativa da energia é consumida pelo movimento de dados, o que é difícil de extrair diretamente do modelo DNN. Este trabalho propõe uma metodologia de estimativa de energia que pode estimar o consumo de energia de um DNN com base em sua arquitetura, esparsidade e largura de bit. Essa metodologia pode ser usada para avaliar as várias arquiteturas DNN e técnicas energicamente eficientes que atualmente estão sendo propostas na área e guiar o design de DNNs energicamente eficientes. Nós lançamos uma versão online da ferramenta de estimativa de energia em energyestimation.mit.edu. Acreditamos que este método desempenhará um papel crítico na conexão entre o design de algoritmos e de hardware e fornecerá insights úteis para o desenvolvimento de DNNs energicamente eficientes.