FINAL: Camada de Interação Fatorizada para Previsão de CTR

O perceptron de múltiplas camadas (MLP) serve como um componente central em muitos modelos profundos para previsão da taxa de cliques (CTR). No entanto, as redes MLP convencionais são ineficientes em aprender interações multiplicativas de características, tornando o aprendizado de interações de características um tópico essencial para a previsão de CTR. As redes de interação de características existentes são eficazes em complementar o aprendizado de MLPs, mas frequentemente ficam aquém do desempenho dos MLPs quando aplicadas isoladamente. Assim, sua integração com redes MLP é necessária para alcançar um desempenho melhorado. Essa situação nos motiva a explorar uma alternativa melhor à estrutura MLP que poderia potencialmente substituí-las. Inspirados por máquinas de fatoração, neste artigo, propomos o FINAL, uma camada de interação fatorizada que estende a camada linear amplamente utilizada e é capaz de aprender interações de características de 2ª ordem. Assim como os MLPs, múltiplas camadas FINAL podem ser empilhadas em um bloco FINAL, resultando em interações de características com um crescimento de grau exponencial. Unificamos interações de características e MLPs em um único bloco FINAL e mostramos empiricamente sua eficácia como um substituto para o bloco MLP. Além disso, exploramos o conjunto de dois blocos FINAL como um modelo CTR de duas vertentes aprimorado, estabelecendo um novo estado da arte em conjuntos de dados de benchmarking abertos. O FINAL pode ser facilmente adotado como um bloco de construção e alcançou ganhos em métricas de negócios em múltiplas aplicações na Huawei. Nosso código fonte estará disponível em MindSpore/models e FuxiCTR/modelᵦoo.