Sobre a localidade do software

O modelo de linguagem n-gram, que tem suas raízes no processamento estatístico de linguagem natural, demonstrou capturar com sucesso as regularidades repetitivas e previsíveis (“naturalidade”) do código fonte, e ajudar em tarefas como sugestão de código, portabilidade e design de dispositivos de codificação assistiva. No entanto, mostramos neste artigo que esse modelo baseado em linguagem natural falha em explorar uma propriedade especial do código fonte: a localidade. Descobrimos que programas escritos por humanos são localizados: eles possuem regularidades locais úteis que podem ser capturadas e exploradas. Introduzimos um modelo de linguagem de cache inovador que consiste tanto em um n-gram quanto em um componente “cache” adicional para explorar a localidade. Mostramos empiricamente que o componente de cache adicional melhora significativamente a abordagem n-gram ao capturar a localidade do software, conforme medido tanto pela entropia cruzada quanto pela precisão da sugestão. A precisão das sugestões do nosso modelo é, na verdade, comparável a um modelo de linguagem de ponta, semanticamente aumentado; mas é mais simples e fácil de implementar. Nosso modelo de linguagem de cache não requer nada além de lexicalização, e, portanto, é aplicável a todas as linguagens de programação.