Auto-DOK: Detecção Automática de Kernels de Offload Assistida por Compilador para Arquiteturas FPGA-HBM

A melhoria da largura de banda proporcionada pela memória de alta largura de banda (HBM) e a capacidade das FPGAs de personalizar a hierarquia de processamento e memória resultam em um considerável aumento de desempenho para cargas de trabalho intensivas em memória, como processamento de grafos, ordenação, aprendizado de máquina e análises de banco de dados. Sistemas modernos que integram memória DRAM empilhada em 3D podem ser aproveitados para realizar o paradigma de Computação Próxima à Memória (NMC) ao descarregar algumas computações para aceleradores colocados próximos à HBM. Embora numerosos estudos tenham investigado aceleradores eficientes para plataformas FPGA-HBM, os pesquisadores não propuseram uma maneira sistemática de identificar quais kernels de aplicação são adequados para execução perto da HBM. Neste artigo, propomos suporte a compilador para reconhecer candidatos a offload sem qualquer ônus sobre os programadores. O Auto-DOK analisa um código de aplicação com base em critérios derivados dos objetivos de design de hardware das plataformas FPGA-HBM e identifica automaticamente kernels adequados para offload. Avaliamos o Auto-DOK em benchmarks que variam de microbenchmarks a kernels do mundo real. Nossos resultados mostram que o Auto-DOK pode identificar corretamente kernels e tamanhos de entrada adequados para execução perto da HBM e evitar a desaceleração causada por decisões de offload incorretas para outras cargas de trabalho. Além disso, o Auto-DOK opera em tempo de compilação com sobrecarga desprezível e sem a necessidade de perfis caros.