Suporte à Computação Multi-GPU Segura com Gerenciamento Dinâmico e em Lote de Metadados

Com o crescimento dos tamanhos dos problemas para computação em GPU, sistemas multi-GPU com compartilhamento de memória de grão fino surgiram para melhorar o atual suporte de memória unificada de grão grosso baseado em migração de páginas. Esses sistemas multi-GPU com memória compartilhada apresentam um novo desafio na segurança das comunicações CPU-GPU e inter-GPU, uma vez que o custo das transferências de dados seguras adiciona uma sobrecarga de desempenho significativa. Existem duas sobrecargas de comunicação segura em sistemas multi-GPU: Primeiro, uma sobrecarga extra é adicionada para gerar pads de uso único (OTPs) para criptografia autenticada. Segundo, os metadados de segurança, como MACs e contadores, transmitidos junto com os dados criptografados consomem uma valiosa largura de banda da rede. Este estudo investiga o impacto no desempenho da comunicação segura em sistemas multi-GPU e avalia os esquemas de pré-computação de OTP orientados para CPU adaptados para sistemas multi-GPU. Nossa investigação identifica o desafio com os buffers de OTP limitados para comunicação inter-GPU e a oportunidade de reduzir o tráfego de metadados de segurança com comunicações intermitentes em GPUs. Com base na análise, este artigo propõe uma nova técnica de alocação dinâmica de buffer de OTP, que ajusta a atribuição do buffer para cada par de origem-destino para refletir os padrões de comunicação. Para abordar o problema de largura de banda causado por metadados de segurança extras, o estudo emprega um esquema de agrupamento dinâmico para transferir apenas um único conjunto de metadados para cada grupo de dados em lote. O design proposto monitora constantemente o padrão de comunicação de cada GPU, ajusta periodicamente o tamanho do buffer alocado e forma dinamicamente lotes de transferências de dados. Nossa avaliação mostra que, em um sistema de 16 GPUs, o esquema proposto pode melhorar o desempenho em 13,2% e 17,5% em média em relação aos esquemas anteriores em cache e privados, respectivamente.