Re3: Gerando Histórias Mais Longas Com Repetição Recursiva e Revisão

Consideramos o problema de gerar automaticamente histórias mais longas, com mais de duas mil palavras. Comparado ao trabalho anterior sobre histórias mais curtas, a coerência e relevância da trama a longo prazo são desafios mais centrais aqui. Propomos a estrutura de Repetição Recursiva e Revisão (Re3) para abordar esses desafios por meio de (a) solicitar a um modelo de linguagem de propósito geral que construa um plano abrangente estruturado e (b) gerar trechos da história, injetando repetidamente informações contextuais tanto do plano quanto do estado atual da história na solicitação do modelo de linguagem. Em seguida, revisamos (c) reclassificando diferentes continuações em termos de coerência da trama e relevância da premissa, e finalmente (d) editando a melhor continuação para consistência factual. Em comparação com histórias de comprimento similar geradas diretamente a partir do mesmo modelo base, os avaliadores humanos julgaram substancialmente mais histórias do Re3 como tendo uma trama abrangente coerente (com um aumento absoluto de 14%) e relevantes à premissa inicial dada (com um aumento de 20%).