Aprendizado de Máquina vs Aprendizado Profundo: O Problema da Generalização

A capacidade de generalizar além do intervalo dos dados de treinamento é um desafio fundamental, muitas vezes sinônimo da utilidade e robustez de um modelo. Este estudo investiga as habilidades comparativas dos modelos tradicionais de aprendizado de máquina (ML) e dos algoritmos de aprendizado profundo (DL) em termos de extrapolação — um aspecto mais desafiador da generalização, pois exige que o modelo faça inferências sobre pontos de dados que estão fora do domínio em que foi treinado. Apresentamos uma análise empírica em que tanto os modelos de ML quanto os de DL são treinados em uma função que cresce exponencialmente e, em seguida, testados em valores fora do domínio de treinamento. A escolha dessa função nos permite destacar claramente a divergência no desempenho quando os modelos são solicitados a prever além do escopo de seus dados de treinamento. Nossos achados sugerem que modelos de aprendizado profundo possuem capacidades inerentes para generalizar além do escopo de treinamento, uma característica essencial para aplicações do mundo real onde os dados são frequentemente incompletos ou se estendem além do intervalo observado. Este artigo argumenta a favor de uma compreensão nuançada das diferenças estruturais entre modelos de ML e DL, com ênfase nas implicações para a pesquisa teórica e a implementação prática.