Inferência Distribuída de Modelo que Preserva a Privacidade na Edge

Este artigo foca no design de um protocolo de inferência de Machine Learning (ML) que preserva a privacidade para uma configuração hierárquica, onde clientes possuem/geram dados, proprietários de modelos (servidores em nuvem) têm um modelo ML pré-treinado, e servidores na edge realizam inferência ML nos dados dos clientes usando o modelo ML do servidor em nuvem. Nosso objetivo é acelerar a inferência ML enquanto preservamos a privacidade tanto dos dados quanto do modelo ML. Nossa abordagem (i) usa inferência distribuída de modelo (paralelização de modelo) nos servidores da edge e (ii) reduz a quantidade de comunicação para/de o servidor em nuvem. Nossa inferência distribuída de modelo hierárquica que preserva a privacidade, design privateMDI, utiliza compartilhamento secreto aditivo e criptografia homomórfica linear para lidar com cálculos lineares na inferência ML, e um circuito ofuscado junto com um novo método de transferência obliviosa de três partes são usados para lidar com funções não lineares. O privateMDI consiste em fases offline e online. Projetamos essas fases de maneira que a maior parte da troca de dados ocorra na fase offline, enquanto o overhead de comunicação da fase online é reduzido. Em particular, não há comunicação para/de o servidor em nuvem na fase online, e a quantidade de comunicação entre o cliente e os servidores da edge é minimizada. Os resultados experimentais demonstram que o privateMDI reduz significativamente o tempo de inferência ML em comparação com as linhas de base.