Redes Gerativas Adversariais Discretas Aumentadas por Máxima Verossimilhança

Apesar dos sucessos em capturar distribuições contínuas, a aplicação de redes gerativas adversariais (GANs) em ambientes discretos, como tarefas de linguagem natural, é bastante restrita. A razão fundamental é a dificuldade de retropropagação por variáveis aleatórias discretas combinada com a instabilidade inerente ao objetivo de treinamento do GAN. Para abordar esses problemas, propomos Redes Gerativas Adversariais Discretas Aumentadas por Máxima Verossimilhança. Em vez de otimizar diretamente o objetivo do GAN, derivamos um novo e de baixa variância objetivo usando a saída do discriminador que corresponde ao log-verossimilhança. Comparado ao original, o novo objetivo provou ser consistente em teoria e benéfico na prática. Os resultados experimentais em vários conjuntos de dados discretos demonstram a eficácia da abordagem proposta.