Aprendendo Representações Distribuídas Recursivas para Cálculo Holístico

Um número de modelos conexionistas capazes de representar dados com estrutura composicional apareceu recentemente. Esses novos modelos sugerem a intrigante possibilidade de realizar cálculos holísticos sensíveis à estrutura com representações distribuídas. Duas formas possíveis de inferência holística, inferência transformacional e inferência confluyente, são identificadas e comparadas. A inferência transformacional foi demonstrada com sucesso por Chalmers; no entanto, a abordagem puramente transformacional não considera as tarefas de inferência eventuais durante o processo de aprendizado de suas representações. A inferência confluyente é introduzida como um método para alcançar um acoplamento estreito entre as representações distribuídas de um problema e a solução para a tarefa de inferência dada, enquanto a rede ainda está aprendendo suas representações. Uma arquitetura RAAM de porta dupla baseada na Memória Auto-Associativa Recursiva de Pollack é implementada e demonstrada no domínio da tradução de Linguagem Natural.