Entendendo e corrigindo patologias no treinamento de otimizadores aprendidos

O aprendizado profundo demonstrou que funções aprendidas podem superar dramaticamente funções projetadas manualmente em tarefas perceptuais. Analogamente, isso sugere que otimizadores aprendidos podem, da mesma forma, superar os otimizadores projetados manualmente atuais, especialmente para problemas específicos. No entanto, os otimizadores aprendidos são notoriamente difíceis de treinar e ainda não demonstraram acelerações em tempo real em relação aos otimizadores projetados manualmente, e, portanto, raramente são utilizados na prática. Normalmente, os otimizadores aprendidos são treinados por retropropagação truncada através de um processo de otimização desenrolado, resultando em gradientes que são ou fortemente enviesados (para truncamentos curtos) ou têm norma explosiva (para truncamentos longos). Neste trabalho, propomos um esquema de treinamento que supera ambas essas dificuldades, pesando dinamicamente dois estimadores de gradiente não enviesados para uma perda variacional no desempenho do otimizador, permitindo-nos treinar redes neurais para realizar a otimização de uma tarefa específica mais rapidamente do que métodos de primeira ordem ajustados. Demonstramos esses resultados em problemas onde nosso otimizador aprendido treina redes convolucionais mais rapidamente em tempo real em comparação com métodos de primeira ordem ajustados e com uma melhoria na perda de teste.